mydumper原理介紹

来源:http://www.cnblogs.com/lizhi221/archive/2017/06/15/7016062.html
-Advertisement-
Play Games

mydumper的安裝:http://www.cnblogs.com/lizhi221/p/7010174.html mydumper介紹 MySQL自身的mysqldump工具支持單線程工作,依次一個個導出多個表,沒有一個並行的機,這就使得它無法迅速的備份數據。 mydumper作為一個實用工具, ...


  mydumper的安裝:http://www.cnblogs.com/lizhi221/p/7010174.html   mydumper介紹   MySQL自身的mysqldump工具支持單線程工作,依次一個個導出多個表,沒有一個並行的機,這就使得它無法迅速的備份數據。   mydumper作為一個實用工具,能夠良好支持多線程工作,可以並行的多線程的從表中讀入數據並同時寫到不同的文件里,這使得它在處理速度方面快於傳統的mysqldump。其特征之一是在處理過程中需要對列表加以鎖定,因此如果我們需要在工作時段執行備份工作,那麼會引起DML阻塞。但一般現在的MySQL都有主從,備份也大部分在從上進行,所以鎖的問題可以不用考慮。這樣,mydumper能更好的完成備份任務。   mydumper特性   ①多線程備份 ②因為是多線程邏輯備份,備份後會生成多個備份文件 ③備份時對MyISAM表施加FTWRL(FLUSH TABLES WITH READ LOCK),會阻塞DML語句 ④保證備份數據的一致性 ⑤支持文件壓縮 ⑥支持導出binlog ⑦支持多線程恢復 ⑧支持以守護進程模式工作,定時快照和連續二進位日誌 ⑨支持將備份文件切塊   mydumper參數詳解  
$ mydumper --help
Usage:
  mydumper [OPTION...] multi-threaded MySQL dumping

Help Options:
  -?, --help                  Show help options

Application Options:
  -B, --database              要備份的資料庫,不指定則備份所有庫
  -T, --tables-list           需要備份的表,名字用逗號隔開
  -o, --outputdir             備份文件輸出的目錄
  -s, --statement-size        生成的insert語句的位元組數,預設1000000
  -r, --rows                  Try to split tables into chunks of this many rows. This option turns off --chunk-filesize
  -F, --chunk-filesize        Split tables into chunks of this output file size. This value is in MB
  -c, --compress              Compress output files壓縮輸出文件
  -e, --build-empty-files     如果表數據是空,還是產生一個空文件(預設無數據則只有表結構文件)
  -x, --regex                 Regular expression for 'db.table' matching 使用正則表達式匹配'db.table'
  -i, --ignore-engines        Comma delimited list of storage engines to ignore忽略的存儲引擎,用逗號分割
  -m, --no-schemas            Do not dump table schemas with the data不備份表結構,只備份數據
  -d, --no-data               Do not dump table data備份表結構,不備份數據
  -G, --triggers              Dump triggers備份觸發器
  -E, --events                Dump events
  -R, --routines              Dump stored procedures and functions備份存儲過程和函數
  -k, --no-locks              不使用臨時共用只讀鎖,使用這個選項會造成數據不一致
  --less-locking              Minimize locking time on InnoDB tables.減少對InnoDB表的鎖施加時間
  -l, --long-query-guard      設定阻塞備份的長查詢超時時間,單位是秒,預設是60秒(超時後預設mydumper將會退出)
  -K, --kill-long-queries     Kill long running queries (instead of aborting)殺掉長查詢 (不退出)
  -D, --daemon                Enable daemon mode啟用守護進程模式,守護進程模式以某個間隔不間斷對資料庫進行備
  -I, --snapshot-interval     dump快照間隔時間,預設60s,需要在daemon模式下
  -L, --logfile               使用的日誌文件名(mydumper所產生的日誌), 預設使用標準輸出
  --tz-utc                    SET TIME_ZONE='+00:00' at top of dump to allow dumping of TIMESTAMP data when a server has data in different time zones or data is being moved between servers with different time zones, defaults to on use --skip-tz-utc to disable.
  --skip-tz-utc               
  --use-savepoints            使用savepoints來減少採集metadata所造成的鎖時間,需要 SUPER 許可權
  --success-on-1146           Not increment error count and Warning instead of Critical in case of table doesn't exist
  --lock-all-tables           Use LOCK TABLE for all, instead of FTWRL
  -U, --updated-since         Use Update_time to dump only tables updated in the last U days
  --trx-consistency-only      Transactional consistency only
  -h, --host                  連接的主機名
  -u, --user                  用來備份的用戶名
  -p, --password              用戶密碼
  -P, --port                  連接埠
  -S, --socket                使用socket通信時的socket文件
  -t, --threads               開啟的備份線程數,預設是4
  -C, --compress-protocol     壓縮與mysql通信的數據
  -V, --version               顯示版本號
  -v, --verbose               輸出信息模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 預設為2

 

myloader參數詳解

 

myloader --help
Usage:
  myloader [OPTION...] multi-threaded MySQL loader

Help Options:
  -?, --help                        Show help options

Application Options:
  -d, --directory                   Directory of the dump to import之前備份好的現在需要導入的文件夾
  -q, --queries-per-transaction     Number of queries per transaction, default 1000每次事物執行的查詢數量,預設是1000
  -o, --overwrite-tables            Drop tables if they already exist如果要恢復的表存在,則先drop掉該表,使用該參數,需要備份時候要備份表結構
  -B, --database                    An alternative database to restore into還原到指定的資料庫
  -s, --source-db                   Database to restore選擇被還原的資料庫,將這個資料庫數據還原到--database指定的資料庫里
  -e, --enable-binlog               Enable binary logging of the restore data啟用還原數據的二進位日誌
  -h, --host                        連接的主機名
  -u, --user                        用來備份的用戶名
  -p, --password                    用戶密碼
  -P, --port                        連接埠
  -S, --socket                      使用socket通信時的socket文件
  -t, --threads                     開啟的備份線程數,預設是4
  -C, --compress-protocol           壓縮與mysql通信的數據
  -V, --version                     顯示版本號
  -v, --verbose                     輸出信息模式, 0 = silent, 1 = errors, 2 = warnings, 3 = info, 預設為2
  mydumper主要流程概括   1、主線程 FLUSH TABLES WITH READ LOCK, 施加全局只讀鎖,以阻止DML語句寫入,保證數據的一致性 2、讀取當前時間點的二進位日誌文件名和日誌寫入的位置並記錄在metadata文件中,以供即使點恢復使用 3、N個(線程數可以指定,預設是4)dump線程 START TRANSACTION WITH CONSISTENT SNAPSHOT; 開啟讀一致的事務 4、dump non-InnoDB tables, 首先導出非事務引擎的表 5、主線程 UNLOCK TABLES 非 事務引擎備份完後,釋放全局只讀鎖 6、dump InnoDB tables, 基於 事務導出InnoDB表 7、事務結束     mydumper的less locking模式:        mydumper使用--less-locking可以減少鎖等待時間,此時mydumper的執行機制大致為        1、主線程 FLUSH TABLES WITH READ LOCK (全局鎖)      2、Dump線程 START TRANSACTION WITH CONSISTENT SNAPSHOT;      3、LL Dump線程 LOCK TABLES non-InnoDB (線程內部鎖)      4、主線程UNLOCK TABLES      5、LL Dump線程 dump non-InnoDB tables      6、LL DUmp線程 UNLOCK non-InnoDB      7、Dump線程 dump InnoDB tables     mydumper備份流程圖  

 


 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • <!DOCTYPE html><html lang="en"><head><meta charset="UTF-8"><title>Document</title><style type="text/css">body { margin: 0;} header { border-bottom: 2p ...
  • //獲取非行間樣式的封裝 function setStyle(obj,name){ // 考慮相容性問題 if(obj.currentStyle){//不相容火狐和谷歌 return obj.currentStyle[name]; }else{ return getComputedStyle(obj ...
  • 數組 (1)、數組的定義 數組是值的有序集合 javascript數組是無類型的;數組元素可以是任意類型,並且同一個數組的不同元素也可能有不同的類型。 每個值叫做一個元素,而每個元素在數組中有一個位置 (2)、創建數組 1.使用數組直接量是創建數組最簡單的方式,在方括弧中將數組元素用逗號隔開即可。 ...
  • 今天寫點css3,3d屬性寫的3d盒子,結合javascript讓盒子隨滑鼠旋轉起來 效果 ...
  • 最近做了一個項目需要實現一個卡片式的水平滑動,但是不能手勢滑動,點擊卡片上的按鈕之後滑動到下一個卡片,所以想到用RecyclerView實現,去掉它的手勢滑動,點擊按鈕之後再代碼控制滑動到下一個卡片。 接下來就是一步一步的實現。 1.引入RecyclerView。 2.在佈局文件中使用Recycle ...
  • 上篇博客我們聊了《資訊類App常用分類控制項的封裝與實現(CollectionView+Swift3.0)》,今天的這篇博客就在上篇博客的基礎上做些東西。做一個完整的資訊類App中的分類展示、分類切換、分類編輯這一套東西。當然,主要我們還是使用靈活多變的CollectionView來實現。下方我們將會 ...
  • 一,工程圖。 二,代碼。 RootViewController.h RootViewController.m ...
  • 查詢資料庫等待時間和實際執行時間的相對百分比 select * from v$sysmetric a where a.METRIC_NAME in ('Database CPU Time Ratio', 'Database Wait Time Ratio') and a.INTSIZE_CSEC = ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...