mydumper/myloader使用詳解

来源:http://www.cnblogs.com/lizhi221/archive/2017/06/15/7018313.html
-Advertisement-
Play Games

mydumper安裝:http://www.cnblogs.com/lizhi221/p/7010174.html mydumper原理:http://www.cnblogs.com/lizhi221/p/7016062.html myloader原理:http://www.cnblogs.com/ ...


  mydumper安裝:http://www.cnblogs.com/lizhi221/p/7010174.html mydumper原理:http://www.cnblogs.com/lizhi221/p/7016062.html myloader原理:http://www.cnblogs.com/lizhi221/p/7017900.html     一、mydumper備份   1、開啟16個備份進程,備份出所有的庫以及二進位日誌文件,到指定目錄/docker/mydumper/all_backup mydumper -u root -p root123 --threads=16 -o /docker/mydumper/all_backup 這裡的--threads=16指定開啟16個備份線程數,這個可以在MySQL裡面show processlist看出來。 備份完成後,每個表都會有兩個文件: 一個是表結構文件database.table-schema.sql; 一個是表數據文件database.table.sql。 此外還有一次二進位日誌文件metadata。 $ cat metadata Started dump at: 2017-06-15 10:57:24 SHOW MASTER STATUS:     Log: mysql-bin.000025     Pos: 681395159     GTID:6fbc72af-348e-11e7-865c-fa163e5807c3:1-22, ad9b2529-348d-11e7-bef0-fa163e9e3c14:1-2663607   SHOW SLAVE STATUS:     Host: 10.157.24.87     Log: mysql-bin.000047     Pos: 144635857     GTID:6fbc72af-348e-11e7-865c-fa163e5807c3:1-22, ad9b2529-348d-11e7-bef0-fa163e9e3c14:1-2663607   Finished dump at: 2017-06-15 10:58:50   註:如果沒有指定輸出的目錄:mydumper -u root -p root123 則預設自動生成export-20170615-105920目錄(export-年月日-時分秒)   2、備份出所有的庫到指定文件夾下並壓縮備份文件(這個備份壓縮過程會消耗過多的時間) mydumper -u root -p root123 -c -o /docker/mydumper/all_backup_compress 會將表結構文件和表數據文件都壓縮,二進位日誌文件不變,如下,文件大小從17G壓縮到了7.7G。      root@dpsvstadbs05 11:20:02:mydumper$ du -sh *      17G    all_backup      7.7G   all_backup_compress   3、備份出sampson庫所有表的表結構,不備份數據,到指定輸出的目錄/docker/mydumper/sampson-d mydumper -u root -p root123 -B sampson -d -o /docker/mydumper/sampson-d 則/docker/mydumper/sampson-d目錄下只有metadata和sampson.table-schema.sql文件。   4、備份出sampson庫所有表的數據,不備份表結構,到指定輸出的目錄/docker/mydumper/sampson-m mydumper -u root -p root123 -B sampson -m -o /docker/mydumper/sampson-m 則/docker/mydumper/sampson-m目錄下只有metadata和sampson.table.sql文件。   5、備份出sampson庫所有dsns和t1表到指定輸出的目錄/docker/mydumper/sampson-T mydumper -u root -p root123 -B sampson -T dsns,t1  -o /docker/mydumper/sampson-T 則/docker/mydumper/sampson-T目錄下有metadata和sampson建庫文件以及dsns和t1表的備份文件。   註:如果備份需要後臺運行,可以加--daemon實現後臺執行導出命令。   二、myloader恢復   1、從全備的目錄中恢復sampson庫: myloader -u root -p root123 --threads=16 --database=sampson -d /docker/mydumper/all_backup   2、從只備份了表結構的目錄中恢復sampson庫表結構到sampson-d庫中去 myloader -u root -p root123 --database=sampson-d -d /docker/mydumper/sampson-d   3、從全備的文件夾中恢復sampson庫到samp庫中去: myloader -u root -p root123  --database=samp --source-db=sampson  -d /docker/mydumper/all_backup   註意:建議備份恢復的時候加參數-v 3,顯示詳細的日誌。 root@dpsvstadbs05 12:13:35:mydumper$ myloader -u root -p root123  -d /docker/mydumper/all_backup --database=huihui --source-db=lizhi -v 3 ** Message: 4 threads created ** Message: Creating database `huihui` ** Message: Creating table `huihui`.`my1` ** Message: Creating table `huihui`.`my2` ** Message: Creating table `huihui`.`my3` ** Message: Creating table `huihui`.`my4` ** Message: Creating table `huihui`.`my5` ** Message: Creating table `huihui`.`my6` ** Message: Creating table `huihui`.`my7` ** Message: Creating table `huihui`.`t1` ** Message: Thread 1 restoring `lizhi`.`my1` part 0 ** Message: Thread 3 restoring `lizhi`.`my2` part 0 ** Message: Thread 2 restoring `lizhi`.`my3` part 0 ** Message: Thread 4 restoring `lizhi`.`my4` part 0 ** Message: Thread 3 restoring `lizhi`.`my5` part 0 ** Message: Thread 1 restoring `lizhi`.`my6` part 0 ** Message: Thread 4 restoring `lizhi`.`my7` part 0 ** Message: Thread 2 restoring `lizhi`.`t1` part 0 ** Message: Thread 2 shutting down ** Message: Thread 1 shutting down ** Message: Thread 4 shutting down ** Message: Thread 3 shutting down   附:   mydumper參數詳解  
$ mydumper --help
Usage:
  mydumper [OPTION...] multi-threaded MySQL dumping

Help Options:
  -?, --help                  Show help options

Application Options:
  -B, --database              要備份的資料庫,不指定則備份所有庫
  -T, --tables-list           需要備份的表,名字用逗號隔開
  -o, --outputdir             備份文件輸出的目錄
  -s, --statement-size        生成的insert語句的位元組數,預設1000000
  -r, --rows                  Try to split tables into chunks of this many rows. This option turns off --chunk-filesize
  -F, --chunk-filesize        Split tables into chunks of this output file size. This value is in MB
  -c, --compress              Compress output files壓縮輸出文件
  -e, --build-empty-files     如果表數據是空,還是產生一個空文件(預設無數據則只有表結構文件)
  -x, --regex                 Regular expression for 'db.table' matching 使用正則表達式匹配'db.table'
  -i, --ignore-engines        Comma delimited list of storage engines to ignore忽略的存儲引擎,用逗號分割
  -m, --no-schemas            Do not dump table schemas with the data不備份表結構,只備份數據
  -d, --no-data               Do not dump table data備份表結構,不備份數據
  -G, --triggers              Dump triggers備份觸發器
  -E, --events                Dump events
  -R, --routines              Dump stored procedures and functions備份存儲過程和函數
  -k, --no-locks              不使用臨時共用只讀鎖,使用這個選項會造成數據不一致
  --less-locking              Minimize locking time on InnoDB tables.減少對InnoDB表的鎖施加時間
  -l, --long-query-guard      設定阻塞備份的長查詢超時時間,單位是秒,預設是60秒(超時後預設mydumper將會退出)
  -K, --kill-long-queries     Kill long running queries (instead of aborting)殺掉長查詢 (不退出)
  -D, --daemon                Enable daemon mode啟用守護進程模式,守護進程模式以某個間隔不間斷對資料庫進行備
  -I, --snapshot-interval     dump快照間隔時間,預設60s,需要在daemon模式下
  -L, --logfile               使用的日誌文件名(mydumper所產生的日誌), 預設使用標準輸出
  --tz-utc                    SET TIME_ZONE='+00:00' at top of dump to allow dumping of TIMESTAMP data when a server has data in different time zones or data is being moved between servers with different time zones, defaults to on use --skip-tz-utc to disable.
  --skip-tz-utc               
  --use-savepoints            使用savepoints來減少採集metadata所造成的鎖時間,需要 SUPER 許可權
  --success-on-1146           Not increment error count and Warning instead of Critical in case of table doesn't exist
  --lock-all-tables           Use LOCK TABLE for all, instead of FTWRL
  -U, --updated-since         Use Update_time to dump only tables updated in the last U days
  --trx-consistency-only      Transactional consistency only
  -h, --host                  連接的主機名
  -u, --user                  用來備份的用戶名
  -p, --password              用戶密碼
  -P, --port                  連接埠
  -S, --socket                使用socket通信時的socket文件
  -t, --threads               開啟的備份線程數,預設是4
  -C, --compress-protocol     壓縮與mysql通信的數據
  -V, --version               顯示版本號
  -v, --verbose               輸出信息模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 預設為2

 

myloader參數詳解

 

$ myloader --help
Usage:
  myloader [OPTION...] multi-threaded MySQL loader

Help Options:
  -?, --help                        Show help options

Application Options:
  -d, --directory                   Directory of the dump to import之前備份好的現在需要導入的文件夾
  -q, --queries-per-transaction     Number of queries per transaction, default 1000每次事物執行的查詢數量,預設是1000
  -o, --overwrite-tables            Drop tables if they already exist如果要恢復的表存在,則先drop掉該表,使用該參數,需要備份時候要備份表結構
  -B, --database                    An alternative database to restore into還原到指定的資料庫
  -s, --source-db                   Database to restore選擇被還原的資料庫,將這個資料庫數據還原到--database指定的資料庫里
  -e, --enable-binlog               Enable binary logging of the restore data啟用還原數據的二進位日誌
  -h, --host                        連接的主機名
  -u, --user                        用來備份的用戶名
  -p, --password                    用戶密碼
  -P, --port                        連接埠
  -S, --socket                      使用socket通信時的socket文件
  -t, --threads                     開啟的備份線程數,預設是4
  -C, --compress-protocol           壓縮與mysql通信的數據
  -V, --version                     顯示版本號
  -v, --verbose                     輸出信息模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 預設為2

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • if($irb_order!=''){ $condition .= " AND d.irb_order like '%".$irb_order."%'"; } if($company_name!=''){ $condition .= " AND cp.company_name like '%".$c... ...
  • 怎樣查詢兩個表中同一欄位的不同數據值 例如: A表中的欄位a有40000條數據B表中的欄位a有60000條數據,其中的40000條數據跟A表是一樣的怎樣能把那不一樣的20000條數據查詢出來啊? --建表table1,table2: 1 2 3 4 5 6 7 8 9 create table ta ...
  • 篩選出0點到早上8點之間進入的所有記錄 查詢結果如下: ...
  • 簡介 本文介紹如何在不同伺服器上的 Microsoft SQL Server 2005 實例之間傳輸登錄和密碼。有關如何在其他版本的 SQL Server 實例之間傳輸登錄和密碼的更多信息,請單擊下麵的文章編號,以查看 Microsoft 知識庫中相應的文章:246133 如何在 SQL Serve ...
  • 2017-06-16 本文實驗的測試環境:Windows 10+MySQL5.6.36 一、事務的基本要素(ACID) 1、原子性(Atomicity):事務開始後所有操作,要麼全部做完,要麼全部不做,不可能停滯在中間環節。事務執行過程中出錯,會回滾到事務開始前的狀態,所有的操作就像沒有發生一樣。也 ...
  • 邏輯回歸本質上也是一種線性回歸,和普通線性回歸不同的是,普通線性回歸特征到結果輸出的是連續值,而邏輯回歸增加了一個函數g(z),能夠把連續值映射到0或者1。 MLLib的邏輯回歸類有兩個:LogisticRegressionWithSGD和LogisticRegressionWithLBFGS,前者 ...
  • 1. MERGE INTO 的用途 MERGE INTO 是Oracle 9i以後才出現的新的功能。那這個功能 是什麼呢? 簡單來說,就是:“有則更新,無則插入” 從這句話里,應該可以理解到,merge into 操作一個對象'A'的時候,要有另外一個結果集做為源數據 'B'. ‘merge int ...
  • 一 前言 看到技術交流群中,有人分享了這個面試題,試的做了下,現在把題目和sql寫下來。 二 題目 1. 日誌表SysLog,欄位:用戶編號(UserID),時間(Time)。 UserID Time 1 2011-04-11 13:10:36.663 1 2011-08-12 13:10:36.6 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...