一次mysql主從同步問題及解決過程

来源:http://www.cnblogs.com/zhenghongxin/archive/2017/06/26/7082334.html
-Advertisement-
Play Games

一次mysql主從同步解決過程 前天進行表結構的修改,將其中一個表進行欄位結構的擴展,從varchar(30)擴展到varchar(50),表數據是120萬多條,在主庫執行起來只用了40秒,而從庫同步卻要用4小時。 雖然主庫執行很快,但是影響的行數是120萬行,從庫是同步120萬行的結構變化而去,而 ...


一次mysql主從同步解決過程

前天進行表結構的修改,將其中一個表進行欄位結構的擴展,從varchar(30)擴展到varchar(50),表數據是120萬多條,在主庫執行起來只用了40秒,而從庫同步卻要用4小時。

雖然主庫執行很快,但是影響的行數是120萬行,從庫是同步120萬行的結構變化而去,而不是簡單的執行sql命令修改從庫。
一開始並沒有發現,後面當業務緩慢的時候,就開始感覺不對勁了,趕緊上了mysql上進行查看當前堵塞的mysql進程:

show proccesslist

這裡的結果不是當時的結果(當時是很多查詢均被堵塞):

| Id     | User  | Host            | db   | Command     | Time   | State                                                                 | Info             |
+--------+-------+-----------------+------+-------------+--------+-----------------------------------------------------------------------+------------------+
| 722874 | bakup | 127.0.0.1:36759 | NULL | Binlog Dump | 281055 | Master has sent all binlog to slave; waiting for binlog to be updated | NULL             |
| 991867 | root  | localhost       | NULL | Sleep       |    780 |                                                                       | NULL             |
| 992585 | root  | localhost       | NULL | Query       |      0 | NULL                                                                  | show processlist |

1.Id :進程id,你要kill一個語句的時候很有用。

2.User:顯示單前用戶,如果不是root,這個命令就只顯示你許可權範圍內的sql語句。

3.Host:顯示這個語句是從哪個ip的哪個埠上發出的

4.db:顯示這個進程目前連接的是哪個資料庫

5.Command:顯示當前連接的執行的命令,休眠(sleep),查詢(query),連接(connect),binlog(主從)

6.Time:此這個狀態持續的時間,單位是秒。

7.State:顯示使用當前連接的sql語句的狀態,很重要的列,後續會有所有的狀態的描述,請註意,state只是語句執行中的某一個狀態,一個sql語句,已查詢為例,可能需要經過copying to tmp table,Sorting result,Sending data等狀態才可以完成,

8.info:顯示這個sql語句


當下進行了殺掉堵塞進程,即同步修改結構的進程

 

kill 722874

 

得以恢復業務正常的查詢,但是新的問題來了,主從被強制暫停,發生了錯誤,主庫無法同步到從庫,業務查詢最新數據無法同步過來了。

上從庫查詢命令(這裡的結果不是當時的結果(當時是提示錯誤的信息)):

(Mon Jun 26 20:49:40 2017) db_2 >>show slave status\G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 127.0.0.1
                  Master_User: bakup
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000330
          Read_Master_Log_Pos: 445043216
               Relay_Log_File: 174-relay-bin.000043
                Relay_Log_Pos: 445043362
        Relay_Master_Log_File: mysql-bin.000330
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB: 
          Replicate_Ignore_DB: information_schema,mysql,performance_schema,test,zabbix,information_schema,mysql,performance_schema,test,zabbix
           Replicate_Do_Table: 
       Replicate_Ignore_Table: 
      Replicate_Wild_Do_Table: 
  Replicate_Wild_Ignore_Table: 
                   Last_Errno: 0
                   Last_Error: 
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 445043216
              Relay_Log_Space: 445043559
              Until_Condition: None
               Until_Log_File: 
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File: 
           Master_SSL_CA_Path: 
              Master_SSL_Cert: 
            Master_SSL_Cipher: 
               Master_SSL_Key: 
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error: 
               Last_SQL_Errno: 0
               Last_SQL_Error: 
  Replicate_Ignore_Server_Ids: 
             Master_Server_Id: 1
1 row in set (0.00 sec)

於是找運維商議,採取瞭如下方法:

1 恢復主庫到改變欄位前的狀態
2 停止主從二進位日誌的寫入,主從同步停止
3 開始改變主庫欄位結構
4 改變從庫欄位結構(註意此時主從同步已經停止)
5 修正此前發生的同步錯誤
6 恢復主從二進位日誌的寫入
7 重新開啟主從同步

問題得以解決,40分鐘左右。

這次操作也是有點急促,本應該在夜晚後臺幾乎不被訪問的時候,進行大數據量的結構改變比較好。當天也進行了評估,是2個小時內既可以成功。

因此如果你不著急,那麼在夜間進行同步修改是可以的。

附,state 列信息:

Checking table
 正在檢查數據表(這是自動的)。
Closing tables
 正在將表中修改的數據刷新到磁碟中,同時正在關閉已經用完的表。這是一個很快的操作,如果不是這樣的話,就應該確認磁碟空間是否已經滿了或者磁碟是否正處於重負中。
Connect Out
 複製從伺服器正在連接主伺服器。
Copying to tmp table on disk
 由於臨時結果集大於tmp_table_size,正在將臨時表從記憶體存儲轉為磁碟存儲以此節省記憶體。
Creating tmp table
 正在創建臨時表以存放部分查詢結果。
deleting from main table
 伺服器正在執行多表刪除中的第一部分,剛刪除第一個表。
deleting from reference tables
 伺服器正在執行多表刪除中的第二部分,正在刪除其他表的記錄。
Flushing tables
 正在執行FLUSH TABLES,等待其他線程關閉數據表。
Killed
 發送了一個kill請求給某線程,那麼這個線程將會檢查kill標誌位,同時會放棄下一個kill請求。MySQL會在每次的主迴圈中檢查kill標誌位,不過有些情況下該線程可能會過一小段才能死掉。如果該線程程被其他線程鎖住了,那麼kill請求會在鎖釋放時馬上生效。
Locked
 被其他查詢鎖住了。
Sending data
 正在處理SELECT查詢的記錄,同時正在把結果發送給客戶端。
Sorting for group
 正在為GROUP BY做排序。
 Sorting for order
 正在為ORDER BY做排序。
Opening tables
 這個過程應該會很快,除非受到其他因素的干擾。例如,在執ALTER TABLE或LOCK TABLE語句行完以前,數據表無法被其他線程打開。正嘗試打開一個表。
Removing duplicates
 正在執行一個SELECT DISTINCT方式的查詢,但是MySQL無法在前一個階段優化掉那些重覆的記錄。因此,MySQL需要再次去掉重覆的記錄,然後再把結果發送給客戶端。
Reopen table
 獲得了對一個表的鎖,但是必須在表結構修改之後才能獲得這個鎖。已經釋放鎖,關閉數據表,正嘗試重新打開數據表。
Repair by sorting
 修複指令正在排序以創建索引。
Repair with keycache
 修複指令正在利用索引緩存一個一個地創建新索引。它會比Repair by sorting慢些。
Searching rows for update
 正在講符合條件的記錄找出來以備更新。它必須在UPDATE要修改相關的記錄之前就完成了。
Sleeping
 正在等待客戶端發送新請求.
System lock
 正在等待取得一個外部的系統鎖。如果當前沒有運行多個mysqld伺服器同時請求同一個表,那麼可以通過增加--skip-external-locking參數來禁止外部系統鎖。
Upgrading lock
 INSERT DELAYED正在嘗試取得一個鎖表以插入新記錄。
Updating
 正在搜索匹配的記錄,並且修改它們。
User Lock
 正在等待GET_LOCK()。
Waiting for tables
 該線程得到通知,數據表結構已經被修改了,需要重新打開數據表以取得新的結構。然後,為了能的重新打開數據表,必須等到所有其他線程關閉這個表。以下幾種情況下會產生這個通知:FLUSH TABLES tbl_name, ALTER TABLE, RENAME TABLE, REPAIR TABLE, ANALYZE TABLE,或OPTIMIZE TABLE。
waiting for handler insert
 INSERT DELAYED已經處理完了所有待處理的插入操作,正在等待新的請求。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 神經網路(neural network)是深度學習中一種非常重要的模型,關於神經網路更詳細的介紹呢,這裡就不介紹了,可以自行搜索瞭解。文章主要整理了7個神經網路的實戰項目,相信對神經網路學習者會有所幫助~ ...
  • 記錄一次生產庫遇到的4031錯誤,後來通過調整sga大小將問題解決了 報錯信息: ORA-04031: 無法分配 32 位元組的共用記憶體 ("shared pool","select user#,password,datats...","SQLA","tmp")Incident details in: ...
  • 問題描述: Hbase master起不來,hdfs沒有問題,起來後沒過一會進程又宕了,hdfs磁碟爆了。 解決過程: 開始懷疑是zookeepr宕了。查看配置發現是zookeeper在三台slaves上面,可能會造成資源搶占,zookeeper會被hbase擠掉。 所以將其中一臺slaves轉到m ...
  • 資料庫引擎是高度優化的閉環系統,基於執行計劃的反饋,查詢優化器在一定程度上自動優化現有的執行計劃。查詢優化的核心是索引優化,資料庫引擎通過計數器統計關於索引操作的數據,統計的信息包括:使用次數、物理存儲、底層操作的計數,以及缺失索引等,這些統計數據存儲在記憶體中,是資料庫引擎執行情況的真實反饋,高度概 ...
  • 1、查詢的時候把某一個欄位的值拼接成字元串 以下是演示數據。 第一種方式:使用自定義變數 這種方法有一個好處就是,拼接出來的字元串可以賦值給變數或直接插入表中指定欄位,可以適用於存儲過程之類的。 第二種方式:轉換為 XML 格式 使用這種方式有一個缺點就是,不能直接賦值給變數或插入表,適用於查看時使 ...
  • [20170627]使用TSPITR恢復表空間.txt--//RMAN提供了一種實現所謂TSPITR(Tablespace Point-In-Time Recovery)的技術,通過簡單的一個語句,就可以在主庫不停庫(很吸引人)--//的情況下,利用備份集和連續的歸檔日誌,實現表空間級別的定點恢復。 ...
  • 1、數據 定義:描述事物的符號。例如:文本、音頻、視頻都是數據。 2、資料庫 存放數據的倉庫,存放在電腦中,按照一定格式存放,可以為用戶共用。 3、資料庫的發展階段 1、網狀資料庫 2、層次資料庫 3、關係資料庫(目前主流資料庫) 4、對象資料庫 4、NOSQL資料庫 4、Oracle資料庫系統用 ...
  • 一、SCAN 概念 SCAN(Single Client Access Name)是 Oracle從11g R2開始推出的,客戶端可以通過 SCAN 特性負載均衡地連接到 RAC資料庫 SCAN 最明顯的優點就是,當集群中新增加了節點或者刪除了節點,不需要額外維護客戶端 查看 SCAN 的配置信息的 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...