mysql資料庫相關流程圖/原理圖

来源:https://www.cnblogs.com/weilingfeng/archive/2019/08/06/11306778.html
-Advertisement-
Play Games

mysql資料庫相關流程圖/原理圖 1.mysql主從複製原理圖 mysql主從複製原理是大廠後端的高頻面試題,瞭解mysql主從複製原理非常有必要。 主從複製原理,簡言之,就三步曲,如下: 主資料庫有個bin-log二進位文件,紀錄了所有增刪改Sql語句。(binlog線程) 從資料庫把主資料庫的 ...


mysql資料庫相關流程圖/原理圖

1.mysql主從複製原理圖

mysql主從複製原理是大廠後端的高頻面試題,瞭解mysql主從複製原理非常有必要。

主從複製原理,簡言之,就三步曲,如下:

  • 主資料庫有個bin-log二進位文件,紀錄了所有增刪改Sql語句。(binlog線程)
  • 從資料庫把主資料庫的bin-log文件的sql語句複製過來。(io線程)
  • 從資料庫的relay-log重做日誌文件中再執行一次這些sql語句。(Sql執行線程)

如下圖所示:

 

 

上圖主從複製分了五個步驟進行:

步驟一:主庫的更新事件(update、insert、delete)被寫到binlog

步驟二:從庫發起連接,連接到主庫。

步驟三:此時主庫創建一個binlog dump thread,把binlog的內容發送到從庫。

步驟四:從庫啟動之後,創建一個I/O線程,讀取主庫傳過來的binlog內容並寫入到relay log

步驟五:還會創建一個SQL線程,從relay log裡面讀取內容,從Exec_Master_Log_Pos位置開始執行讀取到的更新事件,將更新內容寫入到slave的db

2.Mysql邏輯架構圖

如果能在腦海中構建出MySql各組件之間如何協同工作的架構圖,就會有助於深入理解MySql伺服器

 

Mysql邏輯架構圖主要分三層:

1) 第一層負責連接處理,授權認證,安全等等

  • 每個客戶端連接都會在伺服器進程中擁有一個線程,伺服器維護了一個線程池,因此不需要為每一個新建的連接創建或者銷毀線程。
  • 當客戶端連接到Mysql伺服器時,伺服器對其進行認證,通過用戶名和密碼認證,也可以通過SSL證書進行認證。
  • 一旦客戶端連接成功,伺服器會繼續驗證客戶端是否具有執行某個特定查詢的許可權。

2)第二層負責編譯並優化SQL

  • 這一層包括查詢解析,分析,優化,緩存以及所有的的內置函數。
  • 對於SELECT語句,在解析查詢前,伺服器會先檢查查詢緩存,如果能在其中找到對應的查詢結果,則無需再進行查詢解析、優化等過程,直接返回查詢結果。
  • 所有跨存儲引擎的功能都在這一層實現:存儲過程,觸發器,視圖。

3)第三層是存儲引擎。

  • 存儲引擎負責在MySQL中存儲數據、提取數據。
  • 存儲引擎通過API與上層進行通信,這些API屏蔽了不同存儲引擎之間的差異,使得這些差異對上層查詢過程透明。
  • 存儲引擎不會去解析SQL,不同存儲引擎之間也不會相互通信,而只是簡單地響應上層伺服器的請求。

3.InnoDb 邏輯存儲結構圖

從InnoDb 存儲引擎的邏輯存儲結構看,所有數據都被邏輯地存放在一個空間中,稱之為表空間(tablespace)。表空間又由段(segment),區(extent),頁(page)組成。頁在一些文檔中有時候也稱為塊(block)。 InnoDb 邏輯存儲結構圖如下:

 

表空間(tablespace)

  • 表空間是Innodb存儲引擎邏輯的最高層,所有的數據都存放在表空間中。
  • 預設情況下,Innodb存儲引擎有一個共用表空間ibdata1,即所有數據都存放在這個表空間中內。
  • 如果啟用了innodb_file_per_table參數,需要註意的是每張表的表空間記憶體放的只是數據、索引、和插入緩衝Bitmap,其他類的數據,比如回滾(undo)信息、插入緩衝檢索頁、系統事物信息,二次寫緩衝等還是放在原來的共用表內的。

段(segment)

  • 表空間由段組成,常見的段有數據段、索引段、回滾段等。
  • InnoDB存儲引擎表是索引組織的,因此數據即索引,索引即數據。數據段即為B+樹的葉子結點,索引段即為B+樹的非索引結點。
  • 在InnoDB存儲引擎中對段的管理都是由引擎自身所完成,DBA不能也沒必要對其進行控制。

區(extent)

  • 區是由連續頁組成的空間,在任何情況下每個區的大小都為1MB。
  • 為了保證區中頁的連續性,InnoDB存儲引擎一次從磁碟申請4~5個區。
  • 預設情況下,InnoDB存儲引擎頁的大小為16KB,一個區中一共64個連續的區。

頁(page)

  • 頁是InnoDB磁碟管理的最小單位。
  • 在InnoDB存儲引擎中,預設每個頁的大小為16KB。
  • 從InnoDB1.2.x版本開始,可以通過參數innodb_page_size將頁的大小設置為4K,8K,16K。
  • InnoDB存儲引擎中,常見的頁類型有:數據頁,undo頁,系統頁,事務數據頁,插入緩衝點陣圖頁,插入緩衝空閑列表頁等。

4.Innodb頁結構相關示意圖

Innodb頁結構單體圖

InnoDB數據頁由以下7部分組成,如圖所示:

 

 

其中File Header、Page Header、File Trailer的大小是固定的,分別為38,56,8位元組,這些空間用來標記該頁的一些信息,如Checksum,數據頁所在B+樹索引的層數等。User Records、Free Space、Page Directory這些部分為實際的行記錄存儲空間,因此大小是動態的。

下邊我們用表格的方式來大致描述一下這7個部分:

 

 

記錄在頁中的存儲流程圖

每當我們插入一條記錄,都會從Free Space部分,也就是尚未使用的存儲空間中申請一個記錄大小的空間劃分到User Records部分,當Free Space部分的空間全部被User Records部分替代掉之後,也就意味著這個頁使用完了,如果還有新的記錄插入的話,就需要去申請新的頁了,這個過程的圖示如下:

 

 

不同Innodb頁構成的數據結構圖

一張表中可以有成千上萬條記錄,一個頁只有16KB,所以可能需要好多頁來存放數據。不同頁其實構成了一條雙向鏈表,File Header是InnoDB頁的第一部分,它的FIL_PAGE_PREV和FIL_PAGE_NEXT就分別代表本頁的上一個和下一個頁的頁號,即鏈表的上一個以及下一個節點指針。

 

 

5.Innodb索引結構圖

我們先看一份數據表樣本,假設Col1是主鍵,如下:

 

 

B+樹聚集索引結構圖

 

 

  • 聚集索引就是以主鍵創建的索引
  • 聚集索引在葉子節點存儲的是表中的數據

非聚集索引結構圖

假設索引列為Col3,索引結構圖如下:

 

  • 非聚集索引就是以非主鍵創建的索引
  • 非聚集索引在葉子節點存儲的是主鍵和索引列
  • 使用非聚集索引查詢出數據時,拿到葉子上的主鍵再去查到想要查找的數據。(拿到主鍵再查找這個過程叫做回表)
  • 假設所查詢的列,剛好都是索引對應的列,不用再回表查,那麼這個索引列,就叫覆蓋索引。

InnoDB 鎖類型思維導圖

 

 

加鎖機制

樂觀鎖與悲觀鎖是兩種併發控制的思想,可用於解決丟失更新問題。

樂觀鎖

  • 每次去取數據,都很樂觀,覺得不會出現併發問題。
  • 因此,訪問、處理數據每次都不上鎖。
  • 但是在更新的時候,再根據版本號或時間戳判斷是否有衝突,有則處理,無則提交事務。

悲觀鎖

  • 每次去取數據,很悲觀,都覺得會被別人修改,會有併發問題。
  • 因此,訪問、處理數據前就加排他鎖。
  • 在整個數據處理過程中鎖定數據,事務提交或回滾後才釋放鎖.

鎖粒度

  • 表鎖: 開銷小,加鎖快;鎖定力度大,發生鎖衝突概率高,併發度最低;不會出現死鎖。
  • 行鎖: 開銷大,加鎖慢;會出現死鎖;鎖定粒度小,發生鎖衝突的概率低,併發度高。
  • 頁鎖: 開銷和加鎖速度介於表鎖和行鎖之間;會出現死鎖;鎖定粒度介於表鎖和行鎖之間,併發度一般

相容性

共用鎖:

  • 又稱讀鎖(S鎖)。
  • 一個事務獲取了共用鎖,其他事務可以獲取共用鎖,不能獲取排他鎖,其他事務可以進行讀操作,不能進行寫操作。
  • SELECT ... LOCK IN SHARE MODE 顯示加共用鎖。

排他鎖:

  • 又稱寫鎖(X鎖)。
  • 如果事務T對數據A加上排他鎖後,則其他事務不能再對A加任任何類型的封鎖。獲准排他鎖的事務既能讀數據,又能修改數據。
  • SELECT ... FOR UPDATE 顯示添加排他鎖。

鎖模式

  • 記錄鎖: 在行相應的索引記錄上的鎖,鎖定一個行記錄
  • gap鎖: 是在索引記錄間歇上的鎖,鎖定一個區間
  • next-key鎖: 是記錄鎖和在此索引記錄之前的gap上的鎖的結合,鎖定行記錄+區間。
  • 意向鎖 是為了支持多種粒度鎖同時存在;

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、創建表 create table 表裡包含什麼類型的數據 表的名稱是什麼 主鍵 列的名稱是什麼 每一列的數據類型是什麼 每一列的長度是多少 表裡哪些列可以是空的 語法: create table table_name (field1 data_type [not null], field2 da ...
  • 1. MySQL多表查詢 1.1 外鍵約束 為了消除多張表查詢出現的笛卡爾積的現象,MySQL在建表併進行多表之間的關鍵查詢可以使用外鍵關聯查詢。 外鍵:從表1(sub)的某列引用(ref)另外一個表2(main)的某列的值,把表1的這列叫做表2這列的外鍵。 1.2 外鍵的設置使用 比如上述最簡單的 ...
  • zookeeper是幹嘛的呢 Zookeeper的作用1.可以為客戶端管理少量的數據kvkey:是以路徑的形式表示的,那就意味著,各key之間有父子關係,比如/ 是頂層key用戶建的key只能在/ 下作為子節點,比如建一個key: /aa 這個key可以帶value數據也可以建一個key: /bb也 ...
  • 通過https://www.cnblogs.com/tree1123/p/11243668.html 已經對consumer有了一定的瞭解。producer比consumer要簡單一些。 一、舊版本producer 0.9.0.0版本以前,是由scala編寫的舊版本producer。 入口類:kaf ...
  • 恢復內容開始 Windows下備份mysql 第一步 編寫腳本 --user 用戶名 --password 密碼 --host 地址 --port 埠 --default-character-set 字元編碼 --all-databases 備份整個資料庫 (單單備份一個庫可用--database ...
  • 前言 由於最近在學習node+express,學習到持久化存儲章節需要連接mongodb資料庫,然後之前也有試過安裝mongodb但是失敗了,這次就找了很多資料,終於安裝完成了,故此記錄下來安裝步驟,提供給有需要的人. 安裝流程 1. 下載mongodb安裝包 官網地址:https://www.mo ...
  • Redis事務 事務提供了一種"將多個命令打包,一次性提交並按順序執行"的機制,提交後在事務執行中不會中斷。只有在執行完所有命令後才會繼續執行來自其他客戶的消息。 Redis中的使用 Redis通過multi,exec,discard,watch實現事務功能。 1. multi:開始事務 2. ex ...
  • ==註:wm_concat(str1) 11g 後不支持使用== LISTAGG函數用法 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...