源碼淺析:MySQL一條insert操作,會寫哪些文件?包括UNDO相關的文件嗎?

来源:https://www.cnblogs.com/dba-john/archive/2020/02/26/12367814.html
-Advertisement-
Play Games

DML操作的大致流程 在解答上述疑惑之前,我們來梳理一下DML操作的大致流程: 1、語法解析、語義解析 2、生成執行計劃 3、事務修改階段 1) 激活事務,事務狀態由not_active變為active 2) 查找定位數據 3) 樂觀插入 4) 記錄insert相關的undo記錄,並將undo記錄的 ...


DML操作的大致流程

在解答上述疑惑之前,我們來梳理一下DML操作的大致流程:

1、語法解析、語義解析

2、生成執行計劃

3、事務修改階段

  1) 激活事務,事務狀態由not_active變為active

  2) 查找定位數據

  3) 樂觀插入

  4) 記錄insert相關的undo記錄,並將undo記錄的變化寫入redo log buffer

  5) 進行insert 元組插入,及實際的插入操作,並寫入到redo log buffer

  6) binlog event 寫入到 binlog cache

4、事務提交階段

  1) 事務prepare

  2) redo組提交,redo落盤

  3) flush binlog cache到binlog文件,然後fsync binlog文件將它落盤

  4) innodb進行提交,事務狀態由prepare變為not_active

 

寫了哪些文件?會寫UNDO相關的文件嗎?

從上述流程中可以看到,主要對redo log file和binlog進行了寫入。

那麼是否會實時地寫入Undo tablespace呢?

我們先來簡單地分析一下:

1.磁碟中的undo segment,不論它是保存在system tablespace中,還是保存在獨立的undo tablespace中,根據頁的物理結構(參考阿裡內核月報)來看,它們是離散地分佈在表空間文件中的。因此需要讀/寫的時候,會產生很多的隨機讀寫io操作,而隨機讀寫的效率是非常低的;

2.Innodb使用了很多種方法來將磁碟隨機讀寫儘可能地轉換成順序讀寫,比如change buffer特性、WAL特性、MRR、extent塊管理,等等。上述這些都是在儘可能地減少磁碟隨機讀寫。所以Innodb應該不會將undo日誌實時地落盤;

3.在上述流程中的3.4部分,已經將Undo的變化寫入到redo log buffer了,redo會在事務提交時落盤,所以即使在事務失敗、Undo沒有落盤的情況下實例宕機,重新啟動實例的時候,也會從redo中找到Undo來回滾,從而保證事務的原子性。

綜上,可以初步判斷Undo不會實時地落盤。但是這隻是根據原理來進行分析的,為了確定我的分析是否正確,可以打開源碼進行分析驗證,或使用strace等工具來驗證。

 

以下是源碼淺析:

插入的流程:

 1     //trx_undof_page_add_undo_rec_log--記錄undo的redo log 入redo buffer
 2 >    mysqld.exe!trx_undof_page_add_undo_rec_log(unsigned char * undo_page, unsigned __int64 old_free, unsigned __int64 new_free, mtr_t * mtr) 行 74
 3      mysqld.exe!trx_undo_page_set_next_prev_and_add(unsigned char * undo_page, unsigned char * ptr, mtr_t * mtr) 行 204
 4      //trx_undo_page_report_insert--記錄insert的undo記錄
 5     mysqld.exe!trx_undo_page_report_insert(unsigned char * undo_page, trx_t * trx, dict_index_t * index, const dtuple_t * clust_entry, mtr_t * mtr) 行 537
 6      mysqld.exe!trx_undo_report_row_operation(unsigned __int64 flags, unsigned __int64 op_type, que_thr_t * thr, dict_index_t * index, const dtuple_t * clust_entry, const upd_t * update, unsigned __int64 cmpl_info, const unsigned char * rec, const unsigned __int64 * offsets, unsigned __int64 * roll_ptr) 行 1951
 7      mysqld.exe!btr_cur_ins_lock_and_undo(unsigned __int64 flags, btr_cur_t * cursor, dtuple_t * entry, que_thr_t * thr, mtr_t * mtr, unsigned __int64 * inherit) 行 2984
 8      //btr_cur_optimistic_insert--進行樂觀插入
 9     mysqld.exe!btr_cur_optimistic_insert(unsigned __int64 flags, btr_cur_t * cursor, unsigned __int64 * * offsets, mem_block_info_t * * heap, dtuple_t * entry, unsigned char * * rec, big_rec_t * * big_rec, unsigned __int64 n_ext, que_thr_t * thr, mtr_t * mtr) 行 3244
10      mysqld.exe!row_ins_clust_index_entry_low(unsigned __int64 flags, unsigned __int64 mode, dict_index_t * index, unsigned __int64 n_uniq, dtuple_t * entry, unsigned __int64 n_ext, que_thr_t * thr, bool dup_chk_only) 行 2447
11      mysqld.exe!row_ins_clust_index_entry(dict_index_t * index, dtuple_t * entry, que_thr_t * thr, unsigned __int64 n_ext, bool dup_chk_only) 行 3162
12      mysqld.exe!row_ins_index_entry(dict_index_t * index, dtuple_t * entry, que_thr_t * thr) 行 3292
13      mysqld.exe!row_ins_index_entry_step(ins_node_t * node, que_thr_t * thr) 行 3442
14      mysqld.exe!row_ins(ins_node_t * node, que_thr_t * thr) 行 3584
15      mysqld.exe!row_ins_step(que_thr_t * thr) 行 3769
16      mysqld.exe!row_insert_for_mysql_using_ins_graph(const unsigned char * mysql_rec, row_prebuilt_t * prebuilt) 行 1734
17      mysqld.exe!row_insert_for_mysql(const unsigned char * mysql_rec, row_prebuilt_t * prebuilt) 行 1853
18      mysqld.exe!ha_innobase::write_row(unsigned char * record) 行 7484
19      mysqld.exe!handler::ha_write_row(unsigned char * buf) 行 7845
20      mysqld.exe!write_record(THD * thd, TABLE * table, COPY_INFO * info, COPY_INFO * update) 行 1860
21      mysqld.exe!Sql_cmd_insert::mysql_insert(THD * thd, TABLE_LIST * table_list) 行 780
22      mysqld.exe!Sql_cmd_insert::execute(THD * thd) 行 3092
23      mysqld.exe!mysql_execute_command(THD * thd, bool first_level) 行 3520
24      mysqld.exe!mysql_parse(THD * thd, Parser_state * parser_state) 行 5519
25      mysqld.exe!dispatch_command(THD * thd, const COM_DATA * com_data, enum_server_command command) 行 1432
26      mysqld.exe!do_command(THD * thd) 行 997
27      mysqld.exe!handle_connection(void * arg) 行 301
28      mysqld.exe!pfs_spawn_thread(void * arg) 行 2190
29      mysqld.exe!win_thread_start(void * p) 行 37

 

其中,trx_undo_page_report_insert函數的代碼如下:

 1 /**********************************************************************//**
 2 在UNDO日誌中報告聚集索引記錄的插入。註意:這裡的UNDO日誌,指的是記憶體中的數據結構
 3 @return在頁面上插入的條目的偏移量(如果成功),如果失敗則為0 */
 4 static
 5 ulint
 6 trx_undo_page_report_insert(
 7 /*========================*/
 8     page_t*        undo_page,    /*!< in: undo log page */
 9     trx_t*        trx,        /*!< in: transaction */
10     dict_index_t*    index,        /*!< in: clustered index */
11     const dtuple_t*    clust_entry,    /*!< in: index entry which will be
12                     inserted to the clustered index */
13     mtr_t*        mtr)        /*!< in: mtr */
14 {
15     ulint        first_free;
16     byte*        ptr;
17     ulint        i;
18 
19     //...省略若幹內容
20 
21 
22     /* 預留2位元組給指向下一條UNDO日誌的指針 */
23     ptr += 2;
24 
25     /* Store first some general parameters to the undo log */
26     *ptr++ = TRX_UNDO_INSERT_REC;
27     ptr += mach_u64_write_much_compressed(ptr, trx->undo_no);
28     ptr += mach_u64_write_much_compressed(ptr, index->table->id);
29     /*----------------------------------------*/
30     /* 然後存儲唯一確定要在聚簇索引中插入的記錄所需的欄位 */
31 
32     for (i = 0; i < dict_index_get_n_unique(index); i++) {
33 
34         const dfield_t*    field    = dtuple_get_nth_field(clust_entry, i);
35         ulint        flen    = dfield_get_len(field);
36 
37         if (trx_undo_left(undo_page, ptr) < 5) {
38 
39             return(0);
40         }
41 
42         ptr += mach_write_compressed(ptr, flen);
43 
44         if (flen != UNIV_SQL_NULL) {
45             if (trx_undo_left(undo_page, ptr) < flen) {
46 
47                 return(0);
48             }
49 
50             ut_memcpy(ptr, dfield_get_data(field), flen);
51             ptr += flen;
52         }
53     }
54 
55     if (index->table->n_v_cols) {
56         if (!trx_undo_report_insert_virtual(
57             undo_page, index->table, clust_entry, &ptr)) {
58             return(0);
59         }
60     }
61     /* 調用trx_undo_page_set_next_prev_and_add函數 */
62     return(trx_undo_page_set_next_prev_and_add(undo_page, ptr, mtr));
63 }

 trx_undo_page_set_next_prev_and_add函數的代碼如下:

 1 /**********************************************************************//**
 2 在UNDO page中為寫入到ptr的撤消記錄設置下一個和上一個指針。 通過為此UNDO日誌寫入的位元組數更新第一個空閑值。
 3 @return在頁面上插入的條目的偏移量(如果成功),如果失敗則為0 */
 4 static
 5 ulint
 6 trx_undo_page_set_next_prev_and_add(
 7 /*================================*/
 8     page_t*        undo_page,    /*!< in/out: undo log page */
 9     byte*        ptr,        /*!< in: ptr up to where data has been
10                     written on this undo page. */
11     mtr_t*        mtr)        /*!< in: mtr */
12 {
13     ulint        first_free;    /*!< offset within undo_page */
14     ulint        end_of_rec;    /*!< offset within undo_page */
15     byte*        ptr_to_first_free;
16                     /* pointer within undo_page
17                     that points to the next free
18                     offset value within undo_page.*/
19 
20     //...省略若幹代碼
21 
22     ptr_to_first_free = undo_page + TRX_UNDO_PAGE_HDR + TRX_UNDO_PAGE_FREE;
23 
24     first_free = mach_read_from_2(ptr_to_first_free);
25 
26     /* 寫入上一個UNDO日誌記錄的偏移量 */
27     mach_write_to_2(ptr, first_free);
28     ptr += 2;
29 
30     end_of_rec = ptr - undo_page;
31 
32     /* 寫入下一個UNDO日誌記錄的偏移量 */
33     mach_write_to_2(undo_page + first_free, end_of_rec);
34 
35     /* 將偏移量更新為第一個空閑的UNDO記錄 */
36     mach_write_to_2(ptr_to_first_free, end_of_rec);
37 
38     /* 將此日誌條目寫入UNDO日誌,註釋原文是Write this log entry to the UNDO log,
39     但是你不要被此處的UNDO log迷惑了誤以為是磁碟中的文件,其實Innodb代碼中的UNDO log,
40     我覺得應該理解為UNDO entry,指的是記憶體中的內容 */
41     trx_undof_page_add_undo_rec_log(undo_page, first_free,
42                     end_of_rec, mtr);
43 
44     return(first_free);
45 }

 trx_undof_page_add_undo_rec_log函數的代碼如下:

 1 /************************************************************************
 2 將插入的UNDO條目的mtr日誌條目寫入到redo log buffer。註釋原文是:
 3 Writes the mtr log entry of the inserted undo log record on the undo log page.
 4 但是請註意,這裡並不是將undo落盤 */
 5 UNIV_INLINE
 6 void
 7 trx_undof_page_add_undo_rec_log(
 8 /*============================*/
 9     page_t* undo_page,    /*!< in: undo log page */
10     ulint    old_free,    /*!< in: start offset of the inserted entry */
11     ulint    new_free,    /*!< in: end offset of the entry */
12     mtr_t*    mtr)        /*!< in: mtr */
13 {
14     byte*        log_ptr;
15     const byte*    log_end;
16     ulint        len;
17 
18     log_ptr = mlog_open(mtr, 11 + 13 + MLOG_BUF_MARGIN);
19 
20     if (log_ptr == NULL) {
21 
22         return;
23     }
24 
25     log_end = &log_ptr[11 + 13 + MLOG_BUF_MARGIN];
26     /*mlog_write_initial_log_record_fast,是mini-transaction相關的函數,用來將redo條目寫入到redo log buffer
27     MLOG_UNDO_INSERT,是redo日誌類型的一種,是在將一條記錄設置為頁面中的最小記錄時產生的,因為只是打個標記,存儲的內容比較簡單*/
28     log_ptr = mlog_write_initial_log_record_fast(
29         undo_page, MLOG_UNDO_INSERT, log_ptr, mtr);
30     len = new_free - old_free - 4;
31 
32     mach_write_to_2(log_ptr, len);
33     log_ptr += 2;
34 
35     if (log_ptr + len <= log_end) {
36         memcpy(log_ptr, undo_page + old_free + 2, len);
37         mlog_close(mtr, log_ptr + len);
38     } else {
39         mlog_close(mtr, log_ptr);
40         mlog_catenate_string(mtr, undo_page + old_free + 2, len);
41     }
42 }

 

 

總結

MySQL一條insert操作,會寫redo log file和binlog文件,但是不會將UNDO落盤。

UNDO包含在Innodb Buffer Pool中,由Page Cleaner Thread定時刷到磁碟,由Purge Thread定時回收。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 本篇blog導航: ~前言 ~第一步:在安裝好的kali配置國內源 ~第二步:安裝docker ~第三步:docker下安裝sqli-labs ~寫在最後。 前言: 最近閑來無事,在闖關sqli-labs,但是在less-26之後,遇到了Windows+apache環境下編碼的問題,導致闖關不能愉快 ...
  • MySQL運維 安裝資料庫 配置本地yum源,將gpmall-repo文件上傳至/opt目錄 創建yum.repo文件 安裝mariadb服務 # yum install -y mariadb mariadb-server 啟動mariadb服務 # systemctl start mariadb ...
  • SRAM即靜態隨機存取存儲器。它是具有靜止存取功能的記憶體,不需要刷新電路便能保存它內部存儲的數據。在工業與科學用的很多子系統,汽車電子等等都用到了SRAM。現代設備中很多都嵌入了幾千位元組的SRAM。實際上幾乎所有實現了電子用戶界面的現代設備都可能用上了SRAM,如數位相機、手機、音響合成器等往往用了 ...
  • 一、nginx的安裝、啟動、停止及文件解讀 yum -y install gcc gcc-c++ autoconf pcre-devel make automake yum -y install wget httpd-tools vim (1)基於Yum的方式安裝Nginx 我們可以先來查看一下yu ...
  • Kafka集群版本升級(2.11-0.10.1.0)升級(2.11-0.10.2.2) 官網升級說明: 一、系統環境Zookeeper集群:172.16.2.10172.16.2.11172.16.2.12Kafka集群:172.16.2.10172.16.2.11172.16.2.12 現Kafk ...
  • 常用的休眠方式有freeze,standby, mem, disk freeze: 凍結I/O設備,將它們置於低功耗狀態,使處理器進入空閑狀態,喚醒最快,耗電比其它standby, mem, disk方式高 standby:除了凍結I/O設備外,還會暫停系統,喚醒較快,耗電比其它 mem, disk ...
  • -- 慢 SELECT * FROM table_name ORDER BY rand() LIMIT 5; -- 較慢 SELECT * FROM `table` WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)- ...
  • 創建table的時候就使用utf8編碼 在每次創建表的時候都在最後加上 就可以很好的支持中文 修改已經有的table的編碼 當使用預設編碼創建了一個table的時候,是不能支持中文的,這時候使用如下語句對table_name進行修改: 此後再往這個table插入中文的時候,就可以正常存儲和讀取了,但 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 在我們開發過程中基本上不可或缺的用到一些敏感機密數據,比如SQL伺服器的連接串或者是OAuth2的Secret等,這些敏感數據在代碼中是不太安全的,我們不應該在源代碼中存儲密碼和其他的敏感數據,一種推薦的方式是通過Asp.Net Core的機密管理器。 機密管理器 在 ASP.NET Core ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 順序棧的介面程式 目錄順序棧的介面程式頭文件創建順序棧入棧出棧利用棧將10進位轉16進位數驗證 頭文件 #include <stdio.h> #include <stdbool.h> #include <stdlib.h> 創建順序棧 // 指的是順序棧中的元素的數據類型,用戶可以根據需要進行修改 ...
  • 前言 整理這個官方翻譯的系列,原因是網上大部分的 tomcat 版本比較舊,此版本為 v11 最新的版本。 開源項目 從零手寫實現 tomcat minicat 別稱【嗅虎】心有猛虎,輕嗅薔薇。 系列文章 web server apache tomcat11-01-官方文檔入門介紹 web serv ...
  • C總結與剖析:關鍵字篇 -- <<C語言深度解剖>> 目錄C總結與剖析:關鍵字篇 -- <<C語言深度解剖>>程式的本質:二進位文件變數1.變數:記憶體上的某個位置開闢的空間2.變數的初始化3.為什麼要有變數4.局部變數與全局變數5.變數的大小由類型決定6.任何一個變數,記憶體賦值都是從低地址開始往高地 ...
  • 如果讓你來做一個有狀態流式應用的故障恢復,你會如何來做呢? 單機和多機會遇到什麼不同的問題? Flink Checkpoint 是做什麼用的?原理是什麼? ...
  • C++ 多級繼承 多級繼承是一種面向對象編程(OOP)特性,允許一個類從多個基類繼承屬性和方法。它使代碼更易於組織和維護,並促進代碼重用。 多級繼承的語法 在 C++ 中,使用 : 符號來指定繼承關係。多級繼承的語法如下: class DerivedClass : public BaseClass1 ...
  • 前言 什麼是SpringCloud? Spring Cloud 是一系列框架的有序集合,它利用 Spring Boot 的開發便利性簡化了分散式系統的開發,比如服務註冊、服務發現、網關、路由、鏈路追蹤等。Spring Cloud 並不是重覆造輪子,而是將市面上開發得比較好的模塊集成進去,進行封裝,從 ...
  • class_template 類模板和函數模板的定義和使用類似,我們已經進行了介紹。有時,有兩個或多個類,其功能是相同的,僅僅是數據類型不同。類模板用於實現類所需數據的類型參數化 template<class NameType, class AgeType> class Person { publi ...
  • 目錄system v IPC簡介共用記憶體需要用到的函數介面shmget函數--獲取對象IDshmat函數--獲得映射空間shmctl函數--釋放資源共用記憶體實現思路註意 system v IPC簡介 消息隊列、共用記憶體和信號量統稱為system v IPC(進程間通信機制),V是羅馬數字5,是UNI ...