Mysql之Binlog

来源:https://www.cnblogs.com/aerfazhe/archive/2022/06/24/16408464.html
-Advertisement-
Play Games

1、簡述 binlog 二進位日誌文件,這個文件記錄了MySQL所有的DML操作。通過binlog日誌我們可以做數據恢復,增量備份,主主複製和主從複製等等。 2、Docker中無法使用vim問題解決 https://blog.csdn.net/Tomwildboar/article/details/ ...


1、簡述

  binlog 二進位日誌文件,這個文件記錄了MySQL所有的DML操作。通過binlog日誌我們可以做數據恢復,增量備份,主主複製和主從複製等等。

2、Docker中無法使用vim問題解決

https://blog.csdn.net/Tomwildboar/article/details/120710690

https://blog.csdn.net/KwaiSZ/article/details/106937983

3、開啟binlog

查看是否開啟binlog日誌 show variables like 'log_%'; 

my.cnf 裡面加上配置如下配置,重啟mysql。

# binlog存儲的位置
log-bin=/var/lib/mysql/mysql-bin
# 日誌過期時間
expire_logs_days=30
# 不加這個啟動會報錯
server-id=123454

查看binlog其它的配置文件 show variables like 'binlog%'; 

4、binlog查看亂碼問題

上面框起來的就是binlog日誌(你可以先對錶進行一些增刪改操作),但是我們使用 vim打開發現全是亂碼

其中標記的部分並非是亂碼,而是經由 base64 編碼之後的結果,可以在通過 mysqlbinlog 查看 binlog 日誌時添加參數進行解碼 

mysqlbinlog -vv --base64-output=decode-rows mysql-bin.000007

5、binlog編碼格式

我們可以使用 show variables like 'binlog_format'; 來查看預設的編碼格式

註:不同版本的MySQL,binlog預設的編碼格式可能不同 

binlog有三種編碼格式分別是 row statement mixed 

5.1、statement 基於SQL語句的複製(statement-based replication, SBR)

  每一條會修改數據的sql語句都會記錄到binlog中。優點是並不需要記錄每一條sql語句和每一行的數據變化,減少了binlog日誌量,節約IO,提高性能。

在配置文件裡面加入配置 binlog_format=statement,然後重啟服務。

執行下麵的語句:

CREATE TABLE `my_test`.`xdx_test`  (
  `name` varchar(255) NOT NULL,
  `age` int(0) NOT NULL,
  `birthday` datetime NOT NULL
)

insert into xdx_test (name,age,birthday) values ('xdx',18, now());

然後我們在打開最新的binlog日誌,可以在裡面找到上面的語句。

但就如同上面的 insert 語句,我使用了 now(),這個函數,如果用這個binlog語句去進行備份、同步那麼時間欄位就對不上了。

5.2、row 基於行的複製(row-based replication, RBR)

  不記錄每條sql語句的上下文信息,僅需記錄哪條數據被修改了,修改成什麼樣了。而且不會出現某些特定情況下的存儲過程、或function、或trigger的調用和觸發或 now() 無法被正確複製的問題。缺點是會產生大量的日誌,尤其是alter table的時候會讓日誌暴漲。

修改配置文件為 binlog_format=row ,然後重啟伺服器即可開啟。

5.3、mixed 混合模式複製(mixed-based replication, MBR)

  以上兩種模式的混合使用,一般的複製使用STATEMENT模式保存binlog,對於STATEMENT模式無法複製的操作使用ROW模式保存binlog,MySQL會根據執行的SQL語句選擇日誌保存方式。

修改配置文件為 binlog_format=mixed ,然後重啟伺服器即可開啟。

6、通過binlog恢複數據

將binlog編碼格式自行設置為mixed混合格式。

6.1、準備數據

在操作之前,我們先執行 flush logs; 開啟一個新的 binlog日誌,方便後面處理。

建表:

CREATE TABLE `xdx_test` (
  `id` int(1) unsigned NOT NULL AUTO_INCREMENT COMMENT '自增id',
  `name` varchar(255) NOT NULL COMMENT '名稱',
  `age` int(11) NOT NULL COMMENT '年齡',
  `birthday` datetime NOT NULL COMMENT '生日' ,
   PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

添加數據:

insert into xdx_test (name, age, birthday) values ('111',111,now());
insert into xdx_test (name, age, birthday) values ('222',222,now());

查詢數據:

select * from xdx_test;

這裡我們刪掉 id=1 的數據 delete from xdx_test where id = 1;,用來模擬異常情況數據丟失,然後我們再來恢復它。

6.2、恢複數據

6.2.1、開啟新日誌

執行命令 flush logs 開啟新的日誌記錄,這樣我們就不會收到後面操作的干擾。

6.2.2、找到需要操作的日誌

這裡我要操作的日誌是 mysql-bin.000007

執行命令查看日誌結構 show binlog events in 'mysql-bin.000007'; 

6.2.3、使用pos恢複數據(推薦)

從上面的圖,我們可以看到pos的開始和結束的位置,我們可恢復此階段的數據

# 進入到 binlog 目錄下
cd /var/lib/mysql
# 數據恢覆命令
mysqlbinlog --start-position=開始的pos --stop-position=結束的pos --database=要操作的資料庫 binlog的名稱 | mysql -u登陸名 -p登陸密碼 -v 要操作的資料庫

# 最終執行命令(我的)註意空白間隔
mysqlbinlog --start-position=219 --stop-position=518 --database=my_test mysql-bin.000007 | mysql -uroot -p123456 -v test

執行結果信息:

再次進入資料庫,查詢,發現數據有了

6.2.3.1、執行報錯解決

報錯信息如下:

Can‘t connect to local MySQL server through socket ‘/var/run/mysqld/mysqld.sock

進到 mysql 的config路徑下,一般是在:

vim /etc/mysql/my.cnf

然後看到其中 [mysqld] 的socket配置為: 

socket=/var/lib/mysql/mysql.sock

因此把這個sock文件掛載到 /var/run/mysqld/mysqld.sock 就可以了: 

ln -s /var/lib/mysql/mysql.sock /var/run/mysqld/mysqld.sock

重新執行恢覆命令即可。

6.2.4、使用時間恢複數據

由於時間這塊日誌,不太能具體看清具體恢復的內容時間點,所有不推薦使用該方式。

使用命令查看binlog日誌 mysqlbinlog -vv --base64-output=decode-rows mysql-bin.000013 

數據比較多,這裡我只截圖需要的部分 

mysqlbinlog --start-datetime='2021-10-14 12:47:12' --stop-datetime='2021-10-14 12:52:40' --database=my_test mysql-bin.000013 | mysql -uroot -proot -v test

7、其他

7.1、binlog文件大小

可以使用命令來查看binlog 單個文件大小,預設是1G,如果超過了1G就會新增一個文件 show variables like 'max_binlog_size'; 

註: 當你重啟MySQL的時候,就會新增一個新的 binlog 文件

7.2、過期刪除

   前面也說了,我們可以使用 expire_logs_days=30 來配置日誌保存時間,我們最好不要自己去刪除binlog日誌,這樣會導致過期刪除出錯,如果非要刪除,要記得更新一下 xxxxx.mysql-bin.index 

7.3、其他命令

  • 查看全部的日誌 show master logs;

  • 查看日誌的最後一次操作 show master status;

  • 刷新binlog日誌,也就是新開啟一個日誌文件 flush logs (這個在恢複數據的時候很有用)

7.4、sync_binlog

sync_binlog=0,當事務提交之後,MySQL不做fsync之類的磁碟同步指令刷新binlog_cache中的信息到磁碟,而讓Filesystem自行決定什麼時候來做同步,或者cache滿了之後才同步到磁碟。

sync_binlog=1,強一致,每次事物提交都進行磁碟同步。

sync_binlog=n,當每進行n次事務提交之後,MySQL將進行一次fsync之類的磁碟同步指令來將binlog_cache中的數據強制寫入磁碟

 

無論風雨,和自己一決勝負吧
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 欄位的許可權控制,一般就是控制對應角色人員對某個業務對象的一些敏感欄位的可訪問性:包括可見、可編輯性等處理。本篇隨筆結合基於SqlSugar的開發框架進行的欄位控制管理介紹。 ...
  • 一、簡介 vmware為我們提供了三種網路工作模式,它們分別是:Bridged(橋接模式)、NAT(網路地址轉換模式)、Host-Only(僅主機模式)。 查看網路連接 打開vmware虛擬機,我們可以在選項欄的“編輯”->“虛擬網路編輯器”中看到VMnet0(橋接模式)、VMnet1(僅主機模式) ...
  • 安裝docker後,提示需要啟用hyper-v,在控制面板中勾選Hyper-v,然後重啟,更新快完成就提示無法完成功能配置,正在撤銷更改 解決方法 方法1 控制面板一個一個選 方法2 百度了n多內容,命令行什麼的都試了下,但是都沒有起作用.有說禁用了服務,看了下,確實是禁用了,但是開起來後還是不行. ...
  • 這玩意搞了我今天,直接裂開!系統更新根本解決不了 好在查了相關資料才知道,原來微軟在 Win10 的更新中,將搜索功能和語音助手 Cortana 進行了拆分,搜索成了一個獨立的功能,還好有外媒發現問題原因是 Bing 和 Cortana 集成造成,而且修複很簡單。 方法1 使用電腦管家修複; 方法2 ...
  • 四、Nginx 4.1、概述 4.1.1、介紹 Nginx是一款輕量級的Web伺服器/反向代理伺服器/電子右鍵(IMAP/POP3)代理伺服器。其特點是占有記憶體少,併發能力強,事實上Nginx的併發能力在同類型的網頁伺服器中表現較好,中國大陸使用Nginx的網站有:百度、就京東、新浪、網易、騰訊、淘 ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 CentOS 1.備份原來的源 在控制台輸入mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup備份原本的源 2、下載新的 CentOS-Bas ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 一、環境要求 系統版本:CentOS7.x版本 硬體配置:記憶體2GB以上 cpu2核以上 硬碟大於30G 集群網路配置:集群中所有伺服器內網必須互通,並且需要訪問外網來拉取鏡像 禁用swap分區 二、k8s基礎環境操作: 1、關閉防火牆: [ro ...
  • 程式包編譯安裝的步驟: 源代碼-->預處理-->編譯-->彙編-->鏈接-->執行 多文件:文件中的代碼之間,很可能存在跨文件依賴關係 編譯源碼的項目工具 使用相關的項目管理工具可以大大減少編譯過程的複雜度 根據源碼類型來對這些工具進行分類: C、C++的源碼編譯:使用 make 項目管理器 con ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...