MySQL實戰45講 9

来源:https://www.cnblogs.com/ydssx7/archive/2022/07/23/16511778.html
-Advertisement-
Play Games

09 | 普通索引和唯一索引,應該怎麼選擇? 每個人都有一個唯一的身份證號,而且業務代碼已經保證了不會寫入兩個重覆的身份證號。如果市民系統需要按照身份證號查姓名,就會執行類似這樣的 SQL 語句: select name from CUser where id_card = 'xxxxxxxyyyy ...


09 | 普通索引和唯一索引,應該怎麼選擇?

每個人都有一個唯一的身份證號,而且業務代碼已經保證了不會寫入兩個重覆的身份證號。如果市民系統需要按照身份證號查姓名,就會執行類似這樣的 SQL 語句:

select name from CUser where id_card = 'xxxxxxxyyyyyyzzzzz';

由於身份證號欄位比較大,不建議你把身份證號當做主鍵,那麼現在有兩個選擇,要麼給 id_card 欄位創建唯一索引,要麼創建一個普通索引

Q:從性能的角度考慮,選擇唯一索引還是普通索引呢?選擇的依據是什麼呢?

A: ans

用k來表示上面的身份證號,假設欄位 k 上的值都不重覆。

image-20220723112415744

查詢過程

假設,執行查詢的語句是 select id from T where k=5。

這個查詢語句在索引樹上查找的過程,先是通過 B+ 樹從樹根開始,按層搜索到葉子節點,也就是圖中右下角的這個數據頁,然後可以認為數據頁內部通過二分法來定位記錄

  • 對於普通索引來說,查找到滿足條件的第一個記錄 (5,500) 後,需要查找下一個記錄,直到碰到第一個不滿足 k=5 條件的記錄
  • 對於唯一索引來說,由於索引定義了唯一性,查找到第一個滿足條件的記錄後,就會停止繼續檢索

性能差距:微乎其微

原因:

InnoDB 的數據是按數據頁為單位來讀寫的。也就是說,當需要讀一條記錄的時候,並不是將這個記錄本身從磁碟讀出來,而是以頁為單位,將其整體讀入記憶體。在 InnoDB 中,每個數據頁的大小預設是 16KB。

因為引擎是按頁讀寫的,所以說,當找到 k=5 的記錄的時候,它所在的數據頁就都在記憶體里了。那麼,對於普通索引來說,要多做的那一次“查找和判斷下一條記錄”的操作,就只需要一次指針尋找和一次計算。(剛好是這個數據頁的最後一個記錄,那麼要取下一個記錄,必須讀取下一個數據頁,這個操作會稍微複雜一些。)

change buffer

當需要更新一個數據頁時,如果數據頁在記憶體中就直接更新,而如果這個數據頁還沒有在記憶體中的話,在不影響數據一致性的前提下,InooDB 會將這些更新操作緩存在 change buffer 中,這樣就不需要從磁碟中讀入這個數據頁了。

在下次查詢需要訪問這個數據頁的時候,將數據頁從硬碟讀入記憶體,然後執行 change buffer 中與這個頁有關的操作。通過這種方式就能保證這個數據邏輯的正確性。

雖然名字叫作 change buffer,實際上它是可以持久化的數據。也就是說,change buffer 在記憶體中有拷貝,也會被寫入到磁碟上。

將 change buffer 中的操作應用到原數據頁,得到最新結果的過程稱為 merge。除了訪問這個數據頁會觸發 merge 外,系統有後臺線程會定期 merge。在資料庫正常關閉(shutdown)的過程中,也會執行 merge 操作。

如果能夠將更新操作先記錄在 change buffer,減少讀磁碟,語句的執行速度會得到明顯的提升。而且,數據讀入記憶體是需要占用 buffer pool 的,所以這種方式還能夠避免占用記憶體,提高記憶體利用率。

change buffer 用的是 buffer pool 里的記憶體,不能無限增大

什麼索引可以使用 change buffer

對於唯一索引來說,所有的更新操作都要先判斷這個操作是否違反唯一性約束,不能使用 change buffer。

比如,要插入 (4,400) 這個記錄,就要先判斷現在表中是否已經存在 k=4 的記錄,而這必須要將數據頁讀入記憶體才能判斷。如果都已經讀入到記憶體了,那直接更新記憶體會更快,就必要使用 change buffer 了。

只有普通索引可以使用change buffer。

change buffer 的使用場景

Q:普通索引的所有場景,使用 change buffer 都可以起到加速作用嗎?

A:

因為 merge 的時候是真正進行數據更新的時刻,而 change buffer 的主要目的就是將記錄的變更動作緩存下來,所以在一個數據頁做 merge 之前,change buffer 記錄的變更越多(也就是這個頁面上要更新的次數越多),收益就越大。

因此,對於寫多讀少的業務來說,頁面在寫完以後馬上被訪問到的概率比較小,此時 change buffer 的使用效果最好。這種業務模型常見的就是賬單類、日誌類的系統

反過來,假設一個業務的更新模式是寫入之後馬上會做查詢,那麼即使滿足了條件,將更新先記錄在 change buffer,但之後由於馬上要訪問這個數據頁,會立即觸發 merge 過程。這樣隨機訪問 IO 的次數不會減少,反而增加了 change buffer 的維護代價。所以,對於這種業務模式來說,change buffer 反而起到了副作用。

Q:merge 的過程是否會把數據直接寫回磁碟?

A:不會

merge 的執行流程:

  1. 從磁碟讀入數據頁到記憶體(老版本的數據頁);
  2. 從 change buffer 里找出這個數據頁的 change buffer 記錄 (可能有多個),依次應用,得到新版數據頁;
  3. 寫 redo log這個 redo log 包含了數據的變更和 change buffer 的變更

到這裡 merge 過程就結束了。這時候,數據頁和記憶體中 change buffer 對應的磁碟位置都還沒有修改,屬於臟頁,之後各自刷回自己的物理數據,就是另外一個過程了。

更新過程

如果要在這張表中插入一個新記錄 (4,400) 的話,InnoDB 的處理流程

第一種情況是,這個記錄要更新的目標頁在記憶體中。這時,InnoDB 的處理流程如下:

  • 對於唯一索引來說,找到 3 和 5 之間的位置,判斷到沒有衝突,插入這個值,語句執行結束;
  • 對於普通索引來說,找到 3 和 5 之間的位置,插入這個值,語句執行結束。

這樣看來,普通索引和唯一索引對更新語句性能影響的差別,只是一個判斷,只會耗費微小的 CPU 時間。

第二種情況是,這個記錄要更新的目標頁不在記憶體中。這時,InnoDB 的處理流程如下:

  • 對於唯一索引來說,需要將數據頁讀入記憶體判斷到沒有衝突,插入這個值,語句執行結束;
  • 對於普通索引來說,則是將更新記錄在 change buffer,語句執行就結束了。

將數據從磁碟讀入記憶體涉及隨機 IO 的訪問,是資料庫裡面成本最高的操作之一。change buffer 因為減少了隨機磁碟訪問,所以對更新性能的提升是會很明顯的。

索引選擇和實踐

這兩類索引在查詢能力上是沒差別的,主要考慮的是對更新性能的影響。所以,我建議你儘量選擇普通索引

如果所有的更新後面,都馬上伴隨著對這個記錄的查詢,那麼你應該關閉 change buffer。而在其他情況下,change buffer 都能提升更新性能。

在實際使用中,你會發現,普通索引和 change buffer 的配合使用,對於數據量大的表的更新優化還是很明顯的

特別地,在使用機械硬碟時,change buffer 這個機制的收效是非常顯著的。所以,當你有一個類似“歷史數據”的庫,並且出於成本考慮用的是機械硬碟時,那你應該特別關註這些表裡的索引,儘量使用普通索引,然後把 change buffer 儘量開大,以確保這個“歷史數據”表的數據寫入速度。

change buffer 和 redo log

插入

在表上執行這個插入語句:

insert into t(id,k) values(id1,k1),(id2,k2);

假設當前 k 索引樹的狀態,查找到位置後,k1 所在的數據頁在記憶體 (InnoDB buffer pool) 中,k2 所在的數據頁不在記憶體中。

下圖是帶 change buffer 的更新狀態圖。

image-20220723122337683

分析這條更新語句,你會發現它涉及了四個部分:

記憶體、redo log(ib_log_fileX)、 數據表空間(t.ibd)、系統表空間(ibdata1)。

這條更新語句做瞭如下的操作(按照圖中的數字順序):

  1. Page 1 在記憶體中,直接更新記憶體;
  2. Page 2 沒有在記憶體中,就在記憶體的 change buffer 區域,記錄下“我要往 Page 2 插入一行”這個信息
  3. 將上述兩個動作記入 redo log 中(圖中 3 和 4)。

做完上面這些,事務就可以完成了

註意redo記錄的內容是頁面的直接變化

執行這條更新語句的成本很低,就是寫了兩處記憶體,然後寫了一處磁碟(兩次操作合在一起寫了一次磁碟),而且還是順序寫的。

同時,圖中的兩個虛線箭頭,是後臺操作不影響更新的響應時間

讀請求

執行查詢請求

select * from t where k in (k1, k2)

如果讀語句發生在更新語句後不久,記憶體中的數據都還在,那麼此時的這兩個讀操作就與系統表空間(ibdata1)和 redo log(ib_log_fileX)無關了。所以,在下圖沒畫出這兩部分。

image-20220723123210172

  • 讀 Page 1 的時候,直接從記憶體返回
    Q:WAL 之後如果讀數據,是不是一定要讀盤,是不是一定要從 redo log 裡面把數據更新以後才可以返回

    A:不用。你可以看一下圖 3 的這個狀態,雖然磁碟上還是之前的數據,但是這裡直接從記憶體返回結果,結果是正確的。

  • 要讀 Page 2 的時候,需要把 Page 2 從磁碟讀入記憶體中,然後應用 change buffer 裡面的操作日誌,生成一個正確的版本並返回結果。直到需要讀 Page 2 的時候,這個數據頁才會被讀入記憶體。

對比這兩個機制在提升更新性能上的收益,redo log 主要節省的是隨機寫磁碟的 IO 消耗(轉成順序寫),而 change buffer 主要節省的則是隨機讀磁碟的 IO 消耗。

Q:change buffer 一開始是寫記憶體的,那麼如果這個時候機器掉電重啟,會不會導致 change buffer 丟失?change buffer 丟失可不是小事兒,再從磁碟讀入數據可就沒有了 merge 過程,就等於是數據丟失了。會不會出現這種情況呢?

A:雖然是只更新記憶體,但是在事務提交的時候,我們把 change buffer 的操作也記錄到 redo log 里了,所以崩潰恢復的時候,change buffer 也能找回來。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一:背景 1. 講故事 前段時間有位朋友說他的程式 CPU 出現了暴漲現象,由於程式是買來的,所以問題就比較棘手了,那既然找到我,就想辦法幫朋友找出來吧,分析下來,問題比較經典,有必要和大家做一下分享。 二:WinDbg 分析 1. CPU 真的爆高嗎 一直關註這個系列的朋友應該知道,用 !tp 驗 ...
  • “don't worry”,部署ASP.NET Core應用可以和原來部署.NET Framework的ASP.NET應用一樣的簡單,還是“熟悉的配方,熟悉的味道”,甚至提供了更加便捷的Kestrel部署方式,下麵主要介紹在windows平臺下兩種常用部署方式: 方式一:Kestrel部署Web應用 ...
  • 前言 .NET在跨平臺後對於應用的部署而言,不在像.NET Framework的時候那麼單一化了,一個.NET Core應用的部署工作就可以涉及到很多知識點。 就對於windows而言,我們可以選擇使用IIS和Kestrel作為我們的Web伺服器。既可以把網站的部署用“進程內托管”方式插入IIS管道 ...
  • Linux 的應用安裝,升級和卸載 1.源碼安裝:太古老了,基本沒人用了 2.通過紅帽的包管理器安裝: 語法:rpm [參數] 軟體包名 (1)參數: i :安裝; U:升級; e:清除(卸載)軟體包; v:驗證包; h:顯示進度條; q:查詢選項; a:查詢/驗證所有包; (2)常用參數組合: - ...
  • 現象 在ubuntu上編譯內核時,apt-get source時出現如下warning: W: Download is performed unsandboxed as root as file '/var/cache/apt/archives/partial/samba-libs_2%3a4.5. ...
  • 10 | MySQL為什麼有時候會選錯索引? 使用哪個索引是由 MySQL 來確定的 可能遇到的情況:一條本來可以執行得很快的語句,卻由於 MySQL 選錯了索引,而導致執行速度變得很慢 先建一個簡單的表,表裡有 a、b 兩個欄位,並分別建上索引: CREATE TABLE `t` ( `id` i ...
  • 11 | 怎麼給字元串欄位加索引? Q:如何在郵箱這樣的欄位上建立合理的索引? 用戶表的定義: create table SUser( ID bigint unsigned primary key, email varchar(64), ... )engine=innodb; 由於要使用郵箱登錄,所 ...
  • 06 | 全局鎖和表鎖 :給表加個欄位怎麼有這麼多阻礙? Connection連接與Session會話 通俗來講,會話(Session)是通信雙⽅從開始通信到通信結束期間的⼀個上下文(Context)。這個上下文是⼀段位於伺服器端的記憶體:記錄了本次連接的客戶端機器、通過哪個應用程式、哪個用戶登錄等信 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...