MySQL四種日誌binlog/redolog/relaylog/undolog

来源:https://www.cnblogs.com/zhengzhaoxiang/archive/2023/04/05/17288948.html
-Advertisement-
Play Games

優質博文:IT-BLOG-CN 一、binlog binlog記錄資料庫表結構和表數據變更,比如update/delete/insert/truncate/create,它不會記錄select。存儲著每條變更的SQL語句和XID事務Id等等。binlog日誌文件如下: [[email protected] ...


優質博文:IT-BLOG-CN

一、binlog

binlog記錄資料庫表結構和表數據變更,比如update/delete/insert/truncate/create,它不會記錄select。存儲著每條變更的SQL語句和XID事務Id等等。binlog日誌文件如下:

[[email protected]]# mysqlbinlog mysql-binlog.0000012
..........
# at 523
# 168654 20:22:43 server id 1 end_log_pos 843 Query thread_id=3 exec_time=0 error_code=0
SET TIMESTAMP=156521934/*!*/;
INSERT INTO student('name','age','sex') VALUES('ZZX',20,'1');  # 執行的SQL語句
/*!*/;
# at 669
#168654 20:22:45 server id 1 end_log_pos 876 Xid = 12              #執行的時間和事務ID

主要有兩個作用:複製和恢複數據
【1】MySQL架構為了高可用性都是一主多從,從伺服器需要與主伺服器保持數據一致,這就是通過binlog進行複製;
【2】資料庫的數據如果被誤刪,可以通過binlog數據進行恢復。

因為binlog記錄了資料庫表的邏輯變更,所以可以用binlog進行主從複製和恢複數據。

二、redo log

MySQL執行SQL修改語句時,肯定是先把這條記錄查出來,然後再將這條進行進行修改。因為Mysql的基本存儲結構是頁,記錄都存在頁裡邊,所以MySQL是先把這條記錄所在的頁找到,然後把該頁載入到記憶體中,將對應記錄進行修改。現在就可能存在一個問題:如果在記憶體中把數據改了,還沒來得及落磁碟,而此時的資料庫掛了,導致這次修改丟失了怎麼辦?

如果每個請求都需要將數據立馬同步到磁碟,那速度會很慢,MySQL可能也頂不住。所以MySQL引入了redo log,記憶體寫完了,然後會寫一份redo log,這份redo log記載著這次在某個頁上做了什麼修改

redo log的時候,也會有buffer,是先寫buffer,再真正落到磁碟中的。至於從buffer什麼時候落磁碟,會有配置供我們配置。

redo log也是需要寫磁碟的,但它的好處就是順序IO(我們都知道順序IO比隨機IO快非常多)。

所以,redo log的存在為了:當我們修改的時候,寫完記憶體了,但數據還沒真正寫到磁碟的時候。此時我們的資料庫掛了,我們可以根據redo log來對數據進行恢復。因為redo log是順序IO,所以寫入的速度很快,並且redo log記載的是物理變化(x頁做了y修改),文件的體積很小,恢復速度很快。

三、binlog與redolog的區別

兩個日誌較為相似,這裡總結下兩者的主要區別:
【1】存儲內容不同: binlog記載的是update/delete/insert這樣的SQL語句,而redo log記載的是物理修改的內容(x頁修改了y)。redo log記錄的是數據的物理變化,binlog記錄的是數據的邏輯變化。

【2】功能: redo log的作用是為持久化而生的。寫完記憶體,如果資料庫掛了,那我們可以通過redo log來恢復記憶體還沒來得及刷到磁碟的數據,將redo log載入到記憶體裡邊,那記憶體就能恢復到掛掉之前的數據了。
binlog的作用是複製和恢復而生的。主從伺服器需要保持數據的一致性,通過binlog來同步數據。如果整個資料庫的數據都被刪除了,binlog存儲著所有的數據變更情況,那麼可以通過binlog來對數據進行恢復。

如果整個資料庫的數據都被刪除了,那我可以用redo log的記錄來恢復嗎?
不能,因為功能的不同,redo log 存儲的是物理數據的變更,如果我們記憶體的數據已經刷到了磁碟了,那redo log的數據就無效了。所以redo log不會存儲著歷史所有數據的變更,文件的內容會被覆蓋的。

【3】寫入細節不同: redo logMySQLInnoDB引擎所產生的。binlog無論MySQL任何引擎都會有的。
InnoDB是有事務的,事務的四大特性之一:持久性就是靠redo log來實現的(如果寫入記憶體成功,但數據還沒真正刷到磁碟,如果此時的資料庫掛了,我們可以靠redo log來恢復記憶體的數據,這就實現了持久性)。

上面也提到,在修改的數據的時候,binlog會記載著變更的類容,redo log也會記載著變更的內容。(只不過一個存儲的是物理變化,一個存儲的是邏輯變化)。那他們的寫入順序是什麼樣的呢?

redo log事務開始的時候,就開始記錄每次的變更信息,而binlog是在事務提交的時候才記錄。

於是新有的問題又出現了:我寫其中的某一個log,失敗了,那會怎麼辦?現在我們的前提是先寫redo log,再寫binlog,我們來看看:
  ■ 如果寫redo log失敗了,那我們就認為這次事務有問題,回滾,不再寫binlog
  ■ 如果寫redo log成功了,寫binlog,寫binlog寫一半了,但失敗了怎麼辦?我們還是會對這次的事務回滾,將無效的binlog給刪除(因為binlog會影響從庫的數據,所以需要做刪除操作)
  ■ 如果寫redo logbinlog都成功了,那這次算是事務才會真正成功。

簡單來說:MySQL需要保證redo logbinlog的數據是一致的,如果不一致,那就亂套了。
  ■ 如果redo log寫失敗了,而binlog寫成功了。那假設記憶體的數據還沒來得及落磁碟,機器就掛掉了。那主從伺服器的數據就不一致了。(從伺服器通過binlog得到最新的數據,而主伺服器由於redo log沒有記載,沒法恢複數據)
  ■ 如果redo log寫成功了,而binlog寫失敗了。那從伺服器就拿不到最新的數據了。

MySQL通過兩階段提交來保證redo logbinlog的數據是一致的。

階段1:InnoDB redo log寫盤,InnoDB事務進入prepare狀態
階段2:binlog寫盤,InooDB事務進入commit狀態

每個事務binlog的末尾,會記錄一個XID event,標志著事務是否提交成功,也就是說,恢復過程中,binlog最後一個XID event之後的內容都應該被purge

如果binlog沒有正常關閉,mysql server可能crash過,我們需要調用MYSQL_BIN_LOG::recover:找到最後一個XID完成最後一次事務的兩階段提交InnoDB commit。因此,需要遍歷binlog文件,找到最後一個合法event集合,並purge無效binlog

四、relay-log

從伺服器I/O線程將主伺服器的二進位日誌讀取過來記錄到從伺服器本地文件,然後從伺服器SQL線程會讀取relay-log日誌的內容並應用到從伺服器,從而使從伺服器和主伺服器的數據保持一致

show variables like '%relay%';
 
#結果
+---------------------------+----------------------------------+
| Variable_name             | Value                            |
+---------------------------+----------------------------------+
| max_relay_log_size        | 0                                |
| relay_log                 | relay-mysql                      |
| relay_log_basename        | /var/lib/mysql/relay-mysql       |
| relay_log_index           | /var/lib/mysql/relay-mysql.index |
| relay_log_info_file       | relay-log.info                   |
| relay_log_info_repository | FILE                             |
| relay_log_purge           | ON                               |
| relay_log_recovery        | ON                               |
| relay_log_space_limit     | 0                                |
| sync_relay_log            | 10000                            |
| sync_relay_log_info       | 10000                            |
+---------------------------+----------------------------------+

max_relay_log_sizerelay log允許的最大值,如果該值為0,則預設值為max_binlog_size (1G)。如果不為0,則max_relay_log_size則為最大的relay_log文件大小;

relay_log: 定義relay_log的位置和名稱,如果值為空,則預設位置在數據文件的目錄;

relay_log_index:定義relay_log索引的位置和名稱,記錄有幾個relay_log文件,預設為2

cat /var/lib/mysql/relay-mysql.index
 
#結果
./relay-mysql.000241
./relay-mysql.000242

relay_log_info_file:定義relay-log.info的位置和名稱。relay-log.info記錄master主庫的binary_log的恢複位置和從庫relay_log的位置;

[root@localhost ~]# cat /var/lib/mysql/relay-log.info
 
#結果
7
./relay-mysql.000242
19421766
mysql-bin.000094
34300252
0
0
1

relay_log_purge:是否自動清空中繼日誌,預設值為1(啟用);

relay_log_recovery
slave從庫宕機後,假如relay-log損壞了,導致一部分中繼日誌沒有處理,則自動放棄所有未執行的relay-log,並且重新從master上獲取日誌,這樣就保證了relay-log的完整性。預設情況下該功能是關閉的,將relay_log_recovery的值設置為1時,可在slave從庫上開啟該功能,建議開啟;

sync_relay_log:當設置為1時,slaveI/O線程每次接收到master發送過來的binlog日誌都要寫入系統緩衝區,然後刷入relay log中繼日誌里,這樣是最安全的,因為在崩潰的時候,你最多會丟失一個事務,但會造成磁碟的大量I/O。當設置為0時,並不是馬上就刷入中繼日誌里,而是由操作系統決定何時來寫入,雖然安全性降低了,但減少了大量的磁碟I/O操作。這個值預設是0,可動態修改;

sync_relay_log_info:這個參數和sync_relay_log參數一樣。

五、undo log

undo log主要有兩個作用:回滾和多版本控制MVCC

在數據修改的時候,不僅記錄了redo log,還記錄undo log,如果因為某些原因導致事務失敗或回滾了,可以用undo log進行回滾

undo log主要存儲的也是邏輯日誌,比如我們要insert一條數據了,那undo log會記錄的一條對應的delete日誌。我們要update一條記錄時,它會記錄一條對應相反的update記錄。

這也應該容易理解,畢竟回滾嘛,跟需要修改的操作相反就好,這樣就能達到回滾的目的。因為支持回滾操作,所以我們就能保證:“一個事務包含多個操作,這些操作要麼全部執行,要麼全都不執行”。【原子性】

因為undo log存儲著修改之前的數據,相當於一個前版本,MVCC實現的是讀寫不阻塞,讀的時候只要返回前一個版本的數據就行了。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • .NET是一種用於構建多種應用的免費開源開發平臺,可以使用多種語言,編輯器和庫開發Web應用、Web API和微服務、雲中的無伺服器函數、雲原生應用、移動應用、桌面應用、Windows WPF、Windows窗體、通用 Windows平臺 (UWP)、游戲、物聯網 (IoT)、機器學習、控制台應用、 ...
  • 前編 一般來說, 泛型的作用就類似一個占位符, 或者說是一個參數, 可以讓我們把類型像參數一樣進行傳遞, 儘可能地復用代碼 我有個朋友, 在使用的過程中發現一個問題 IFace<object> item = new Face<string>(); // CS0266 public interface ...
  • Intro EF Core支持多種方式處理具有繼承關係的表,現在支持TPH、TPC(EF Core 7)、TPT,具體的實現方式可以參考官方文檔和這篇文章。 大致總結一下不同的方式的區別: TPH:所有的類型都放在一張表中,使用discriminator欄位用以區別不同的類型 TPT:不同的子類型有 ...
  • 作者:袁首京 原創文章,轉載時請保留此聲明,並給出原文連接。 如果您是電腦相關從業人員,那麼應該經歷不止一次網路安全專項檢查了,你肯定是收到過信息系統技術檢測報告,要求你加強風險監測,確保你提供的系統服務堅實可靠了。 沒檢測到問題還好,檢測到問題的話,有些處理起來還是挺麻煩的,尤其是線上正在運行的 ...
  • 1. 前文回顧 在之前的幾篇記憶體管理系列文章中,筆者帶大家從巨集觀角度完整地梳理了一遍 Linux 記憶體分配的整個鏈路,本文的主題依然是記憶體分配,這一次我們會從微觀的角度來探秘一下 Linux 內核中用於零散小記憶體塊分配的記憶體池 —— slab 分配器。 在本小節中,筆者還是按照以往的風格先帶大家簡單 ...
  • 1、虛擬化平臺虛擬機添加硬碟 系統查看添加的硬碟 [root@yumserver ~]# lsblk NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT sda 8:0 0 50G 0 disk ├─sda1 8:1 0 1G 0 part /boot └─sda2 8: ...
  • 1. 按照現在的SQL標準來說,HAVING子句是可以單獨使用的 1.1. 就不能在SELECT子句里引用原來的表裡的列了 1.1.1. 使用常量 1.1.2. 使用聚合函數 1.2. WHERE子句用來調查集合元素的性質,而HAVING子句用來調查集合本身的性質 2. 表不是文件,記錄也沒有順序, ...
  • MySQL explain 和 profiling 詳解 mysql explain MySQL 的 EXPLAIN 是一個用於查詢優化的工具,它可以顯示 MySQL 資料庫如何執行查詢。它返回一組關於查詢執行計劃的信息,包括用到的索引,表的連接順序以及 MySQL 使用的查詢類型。下麵是 EXPL ...
一周排行
    -Advertisement-
    Play Games
  • 前言 本文介紹一款使用 C# 與 WPF 開發的音頻播放器,其界面簡潔大方,操作體驗流暢。該播放器支持多種音頻格式(如 MP4、WMA、OGG、FLAC 等),並具備標記、實時歌詞顯示等功能。 另外,還支持換膚及多語言(中英文)切換。核心音頻處理採用 FFmpeg 組件,獲得了廣泛認可,目前 Git ...
  • OAuth2.0授權驗證-gitee授權碼模式 本文主要介紹如何筆者自己是如何使用gitee提供的OAuth2.0協議完成授權驗證並登錄到自己的系統,完整模式如圖 1、創建應用 打開gitee個人中心->第三方應用->創建應用 創建應用後在我的應用界面,查看已創建應用的Client ID和Clien ...
  • 解決了這個問題:《winForm下,fastReport.net 從.net framework 升級到.net5遇到的錯誤“Operation is not supported on this platform.”》 本文內容轉載自:https://www.fcnsoft.com/Home/Sho ...
  • 國內文章 WPF 從裸 Win 32 的 WM_Pointer 消息獲取觸摸點繪製筆跡 https://www.cnblogs.com/lindexi/p/18390983 本文將告訴大家如何在 WPF 裡面,接收裸 Win 32 的 WM_Pointer 消息,從消息裡面獲取觸摸點信息,使用觸摸點 ...
  • 前言 給大家推薦一個專為新零售快消行業打造了一套高效的進銷存管理系統。 系統不僅具備強大的庫存管理功能,還集成了高性能的輕量級 POS 解決方案,確保頁面載入速度極快,提供良好的用戶體驗。 項目介紹 Dorisoy.POS 是一款基於 .NET 7 和 Angular 4 開發的新零售快消進銷存管理 ...
  • ABP CLI常用的代碼分享 一、確保環境配置正確 安裝.NET CLI: ABP CLI是基於.NET Core或.NET 5/6/7等更高版本構建的,因此首先需要在你的開發環境中安裝.NET CLI。這可以通過訪問Microsoft官網下載並安裝相應版本的.NET SDK來實現。 安裝ABP ...
  • 問題 問題是這樣的:第三方的webapi,需要先調用登陸介面獲取Cookie,訪問其它介面時攜帶Cookie信息。 但使用HttpClient類調用登陸介面,返回的Headers中沒有找到Cookie信息。 分析 首先,使用Postman測試該登陸介面,正常返回Cookie信息,說明是HttpCli ...
  • 國內文章 關於.NET在中國為什麼工資低的分析 https://www.cnblogs.com/thinkingmore/p/18406244 .NET在中國開發者的薪資偏低,主要因市場需求、技術棧選擇和企業文化等因素所致。歷史上,.NET曾因微軟的閉源策略發展受限,儘管後來推出了跨平臺的.NET ...
  • 在WPF開發應用中,動畫不僅可以引起用戶的註意與興趣,而且還使軟體更加便於使用。前面幾篇文章講解了畫筆(Brush),形狀(Shape),幾何圖形(Geometry),變換(Transform)等相關內容,今天繼續講解動畫相關內容和知識點,僅供學習分享使用,如有不足之處,還請指正。 ...
  • 什麼是委托? 委托可以說是把一個方法代入另一個方法執行,相當於指向函數的指針;事件就相當於保存委托的數組; 1.實例化委托的方式: 方式1:通過new創建實例: public delegate void ShowDelegate(); 或者 public delegate string ShowDe ...