MySQL四種日誌binlog/redolog/relaylog/undolog

来源:https://www.cnblogs.com/zhengzhaoxiang/archive/2023/04/05/17288948.html
-Advertisement-
Play Games

優質博文:IT-BLOG-CN 一、binlog binlog記錄資料庫表結構和表數據變更,比如update/delete/insert/truncate/create,它不會記錄select。存儲著每條變更的SQL語句和XID事務Id等等。binlog日誌文件如下: [[email protected] ...


優質博文:IT-BLOG-CN

一、binlog

binlog記錄資料庫表結構和表數據變更,比如update/delete/insert/truncate/create,它不會記錄select。存儲著每條變更的SQL語句和XID事務Id等等。binlog日誌文件如下:

[[email protected]]# mysqlbinlog mysql-binlog.0000012
..........
# at 523
# 168654 20:22:43 server id 1 end_log_pos 843 Query thread_id=3 exec_time=0 error_code=0
SET TIMESTAMP=156521934/*!*/;
INSERT INTO student('name','age','sex') VALUES('ZZX',20,'1');  # 執行的SQL語句
/*!*/;
# at 669
#168654 20:22:45 server id 1 end_log_pos 876 Xid = 12              #執行的時間和事務ID

主要有兩個作用:複製和恢複數據
【1】MySQL架構為了高可用性都是一主多從,從伺服器需要與主伺服器保持數據一致,這就是通過binlog進行複製;
【2】資料庫的數據如果被誤刪,可以通過binlog數據進行恢復。

因為binlog記錄了資料庫表的邏輯變更,所以可以用binlog進行主從複製和恢複數據。

二、redo log

MySQL執行SQL修改語句時,肯定是先把這條記錄查出來,然後再將這條進行進行修改。因為Mysql的基本存儲結構是頁,記錄都存在頁裡邊,所以MySQL是先把這條記錄所在的頁找到,然後把該頁載入到記憶體中,將對應記錄進行修改。現在就可能存在一個問題:如果在記憶體中把數據改了,還沒來得及落磁碟,而此時的資料庫掛了,導致這次修改丟失了怎麼辦?

如果每個請求都需要將數據立馬同步到磁碟,那速度會很慢,MySQL可能也頂不住。所以MySQL引入了redo log,記憶體寫完了,然後會寫一份redo log,這份redo log記載著這次在某個頁上做了什麼修改

redo log的時候,也會有buffer,是先寫buffer,再真正落到磁碟中的。至於從buffer什麼時候落磁碟,會有配置供我們配置。

redo log也是需要寫磁碟的,但它的好處就是順序IO(我們都知道順序IO比隨機IO快非常多)。

所以,redo log的存在為了:當我們修改的時候,寫完記憶體了,但數據還沒真正寫到磁碟的時候。此時我們的資料庫掛了,我們可以根據redo log來對數據進行恢復。因為redo log是順序IO,所以寫入的速度很快,並且redo log記載的是物理變化(x頁做了y修改),文件的體積很小,恢復速度很快。

三、binlog與redolog的區別

兩個日誌較為相似,這裡總結下兩者的主要區別:
【1】存儲內容不同: binlog記載的是update/delete/insert這樣的SQL語句,而redo log記載的是物理修改的內容(x頁修改了y)。redo log記錄的是數據的物理變化,binlog記錄的是數據的邏輯變化。

【2】功能: redo log的作用是為持久化而生的。寫完記憶體,如果資料庫掛了,那我們可以通過redo log來恢復記憶體還沒來得及刷到磁碟的數據,將redo log載入到記憶體裡邊,那記憶體就能恢復到掛掉之前的數據了。
binlog的作用是複製和恢復而生的。主從伺服器需要保持數據的一致性,通過binlog來同步數據。如果整個資料庫的數據都被刪除了,binlog存儲著所有的數據變更情況,那麼可以通過binlog來對數據進行恢復。

如果整個資料庫的數據都被刪除了,那我可以用redo log的記錄來恢復嗎?
不能,因為功能的不同,redo log 存儲的是物理數據的變更,如果我們記憶體的數據已經刷到了磁碟了,那redo log的數據就無效了。所以redo log不會存儲著歷史所有數據的變更,文件的內容會被覆蓋的。

【3】寫入細節不同: redo logMySQLInnoDB引擎所產生的。binlog無論MySQL任何引擎都會有的。
InnoDB是有事務的,事務的四大特性之一:持久性就是靠redo log來實現的(如果寫入記憶體成功,但數據還沒真正刷到磁碟,如果此時的資料庫掛了,我們可以靠redo log來恢復記憶體的數據,這就實現了持久性)。

上面也提到,在修改的數據的時候,binlog會記載著變更的類容,redo log也會記載著變更的內容。(只不過一個存儲的是物理變化,一個存儲的是邏輯變化)。那他們的寫入順序是什麼樣的呢?

redo log事務開始的時候,就開始記錄每次的變更信息,而binlog是在事務提交的時候才記錄。

於是新有的問題又出現了:我寫其中的某一個log,失敗了,那會怎麼辦?現在我們的前提是先寫redo log,再寫binlog,我們來看看:
  ■ 如果寫redo log失敗了,那我們就認為這次事務有問題,回滾,不再寫binlog
  ■ 如果寫redo log成功了,寫binlog,寫binlog寫一半了,但失敗了怎麼辦?我們還是會對這次的事務回滾,將無效的binlog給刪除(因為binlog會影響從庫的數據,所以需要做刪除操作)
  ■ 如果寫redo logbinlog都成功了,那這次算是事務才會真正成功。

簡單來說:MySQL需要保證redo logbinlog的數據是一致的,如果不一致,那就亂套了。
  ■ 如果redo log寫失敗了,而binlog寫成功了。那假設記憶體的數據還沒來得及落磁碟,機器就掛掉了。那主從伺服器的數據就不一致了。(從伺服器通過binlog得到最新的數據,而主伺服器由於redo log沒有記載,沒法恢複數據)
  ■ 如果redo log寫成功了,而binlog寫失敗了。那從伺服器就拿不到最新的數據了。

MySQL通過兩階段提交來保證redo logbinlog的數據是一致的。

階段1:InnoDB redo log寫盤,InnoDB事務進入prepare狀態
階段2:binlog寫盤,InooDB事務進入commit狀態

每個事務binlog的末尾,會記錄一個XID event,標志著事務是否提交成功,也就是說,恢復過程中,binlog最後一個XID event之後的內容都應該被purge

如果binlog沒有正常關閉,mysql server可能crash過,我們需要調用MYSQL_BIN_LOG::recover:找到最後一個XID完成最後一次事務的兩階段提交InnoDB commit。因此,需要遍歷binlog文件,找到最後一個合法event集合,並purge無效binlog

四、relay-log

從伺服器I/O線程將主伺服器的二進位日誌讀取過來記錄到從伺服器本地文件,然後從伺服器SQL線程會讀取relay-log日誌的內容並應用到從伺服器,從而使從伺服器和主伺服器的數據保持一致

show variables like '%relay%';
 
#結果
+---------------------------+----------------------------------+
| Variable_name             | Value                            |
+---------------------------+----------------------------------+
| max_relay_log_size        | 0                                |
| relay_log                 | relay-mysql                      |
| relay_log_basename        | /var/lib/mysql/relay-mysql       |
| relay_log_index           | /var/lib/mysql/relay-mysql.index |
| relay_log_info_file       | relay-log.info                   |
| relay_log_info_repository | FILE                             |
| relay_log_purge           | ON                               |
| relay_log_recovery        | ON                               |
| relay_log_space_limit     | 0                                |
| sync_relay_log            | 10000                            |
| sync_relay_log_info       | 10000                            |
+---------------------------+----------------------------------+

max_relay_log_sizerelay log允許的最大值,如果該值為0,則預設值為max_binlog_size (1G)。如果不為0,則max_relay_log_size則為最大的relay_log文件大小;

relay_log: 定義relay_log的位置和名稱,如果值為空,則預設位置在數據文件的目錄;

relay_log_index:定義relay_log索引的位置和名稱,記錄有幾個relay_log文件,預設為2

cat /var/lib/mysql/relay-mysql.index
 
#結果
./relay-mysql.000241
./relay-mysql.000242

relay_log_info_file:定義relay-log.info的位置和名稱。relay-log.info記錄master主庫的binary_log的恢複位置和從庫relay_log的位置;

[root@localhost ~]# cat /var/lib/mysql/relay-log.info
 
#結果
7
./relay-mysql.000242
19421766
mysql-bin.000094
34300252
0
0
1

relay_log_purge:是否自動清空中繼日誌,預設值為1(啟用);

relay_log_recovery
slave從庫宕機後,假如relay-log損壞了,導致一部分中繼日誌沒有處理,則自動放棄所有未執行的relay-log,並且重新從master上獲取日誌,這樣就保證了relay-log的完整性。預設情況下該功能是關閉的,將relay_log_recovery的值設置為1時,可在slave從庫上開啟該功能,建議開啟;

sync_relay_log:當設置為1時,slaveI/O線程每次接收到master發送過來的binlog日誌都要寫入系統緩衝區,然後刷入relay log中繼日誌里,這樣是最安全的,因為在崩潰的時候,你最多會丟失一個事務,但會造成磁碟的大量I/O。當設置為0時,並不是馬上就刷入中繼日誌里,而是由操作系統決定何時來寫入,雖然安全性降低了,但減少了大量的磁碟I/O操作。這個值預設是0,可動態修改;

sync_relay_log_info:這個參數和sync_relay_log參數一樣。

五、undo log

undo log主要有兩個作用:回滾和多版本控制MVCC

在數據修改的時候,不僅記錄了redo log,還記錄undo log,如果因為某些原因導致事務失敗或回滾了,可以用undo log進行回滾

undo log主要存儲的也是邏輯日誌,比如我們要insert一條數據了,那undo log會記錄的一條對應的delete日誌。我們要update一條記錄時,它會記錄一條對應相反的update記錄。

這也應該容易理解,畢竟回滾嘛,跟需要修改的操作相反就好,這樣就能達到回滾的目的。因為支持回滾操作,所以我們就能保證:“一個事務包含多個操作,這些操作要麼全部執行,要麼全都不執行”。【原子性】

因為undo log存儲著修改之前的數據,相當於一個前版本,MVCC實現的是讀寫不阻塞,讀的時候只要返回前一個版本的數據就行了。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • .NET是一種用於構建多種應用的免費開源開發平臺,可以使用多種語言,編輯器和庫開發Web應用、Web API和微服務、雲中的無伺服器函數、雲原生應用、移動應用、桌面應用、Windows WPF、Windows窗體、通用 Windows平臺 (UWP)、游戲、物聯網 (IoT)、機器學習、控制台應用、 ...
  • 前編 一般來說, 泛型的作用就類似一個占位符, 或者說是一個參數, 可以讓我們把類型像參數一樣進行傳遞, 儘可能地復用代碼 我有個朋友, 在使用的過程中發現一個問題 IFace<object> item = new Face<string>(); // CS0266 public interface ...
  • Intro EF Core支持多種方式處理具有繼承關係的表,現在支持TPH、TPC(EF Core 7)、TPT,具體的實現方式可以參考官方文檔和這篇文章。 大致總結一下不同的方式的區別: TPH:所有的類型都放在一張表中,使用discriminator欄位用以區別不同的類型 TPT:不同的子類型有 ...
  • 作者:袁首京 原創文章,轉載時請保留此聲明,並給出原文連接。 如果您是電腦相關從業人員,那麼應該經歷不止一次網路安全專項檢查了,你肯定是收到過信息系統技術檢測報告,要求你加強風險監測,確保你提供的系統服務堅實可靠了。 沒檢測到問題還好,檢測到問題的話,有些處理起來還是挺麻煩的,尤其是線上正在運行的 ...
  • 1. 前文回顧 在之前的幾篇記憶體管理系列文章中,筆者帶大家從巨集觀角度完整地梳理了一遍 Linux 記憶體分配的整個鏈路,本文的主題依然是記憶體分配,這一次我們會從微觀的角度來探秘一下 Linux 內核中用於零散小記憶體塊分配的記憶體池 —— slab 分配器。 在本小節中,筆者還是按照以往的風格先帶大家簡單 ...
  • 1、虛擬化平臺虛擬機添加硬碟 系統查看添加的硬碟 [root@yumserver ~]# lsblk NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT sda 8:0 0 50G 0 disk ├─sda1 8:1 0 1G 0 part /boot └─sda2 8: ...
  • 1. 按照現在的SQL標準來說,HAVING子句是可以單獨使用的 1.1. 就不能在SELECT子句里引用原來的表裡的列了 1.1.1. 使用常量 1.1.2. 使用聚合函數 1.2. WHERE子句用來調查集合元素的性質,而HAVING子句用來調查集合本身的性質 2. 表不是文件,記錄也沒有順序, ...
  • MySQL explain 和 profiling 詳解 mysql explain MySQL 的 EXPLAIN 是一個用於查詢優化的工具,它可以顯示 MySQL 資料庫如何執行查詢。它返回一組關於查詢執行計劃的信息,包括用到的索引,表的連接順序以及 MySQL 使用的查詢類型。下麵是 EXPL ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...