09 | 普通索引和唯一索引,應該怎麼選擇? 每個人都有一個唯一的身份證號,而且業務代碼已經保證了不會寫入兩個重覆的身份證號。如果市民系統需要按照身份證號查姓名,就會執行類似這樣的 SQL 語句: select name from CUser where id_card = 'xxxxxxxyyyy ...
09 | 普通索引和唯一索引,應該怎麼選擇?
每個人都有一個唯一的身份證號,而且業務代碼已經保證了不會寫入兩個重覆的身份證號。如果市民系統需要按照身份證號查姓名,就會執行類似這樣的 SQL 語句:
select name from CUser where id_card = 'xxxxxxxyyyyyyzzzzz';
由於身份證號欄位比較大,不建議你把身份證號當做主鍵,那麼現在有兩個選擇,要麼給 id_card 欄位創建唯一索引,要麼創建一個普通索引。
Q:從性能的角度考慮,選擇唯一索引還是普通索引呢?選擇的依據是什麼呢?
A: ans
用k來表示上面的身份證號,假設欄位 k 上的值都不重覆。
查詢過程
假設,執行查詢的語句是 select id from T where k=5。
這個查詢語句在索引樹上查找的過程,先是通過 B+ 樹從樹根開始,按層搜索到葉子節點,也就是圖中右下角的這個數據頁,然後可以認為數據頁內部通過二分法來定位記錄
- 對於普通索引來說,查找到滿足條件的第一個記錄 (5,500) 後,需要查找下一個記錄,直到碰到第一個不滿足 k=5 條件的記錄。
- 對於唯一索引來說,由於索引定義了唯一性,查找到第一個滿足條件的記錄後,就會停止繼續檢索。
性能差距:微乎其微
原因:
InnoDB 的數據是按數據頁為單位來讀寫的。也就是說,當需要讀一條記錄的時候,並不是將這個記錄本身從磁碟讀出來,而是以頁為單位,將其整體讀入記憶體。在 InnoDB 中,每個數據頁的大小預設是 16KB。
因為引擎是按頁讀寫的,所以說,當找到 k=5 的記錄的時候,它所在的數據頁就都在記憶體里了。那麼,對於普通索引來說,要多做的那一次“查找和判斷下一條記錄”的操作,就只需要一次指針尋找和一次計算。(剛好是這個數據頁的最後一個記錄,那麼要取下一個記錄,必須讀取下一個數據頁,這個操作會稍微複雜一些。)
change buffer
當需要更新一個數據頁時,如果數據頁在記憶體中就直接更新,而如果這個數據頁還沒有在記憶體中的話,在不影響數據一致性的前提下,InooDB 會將這些更新操作緩存在 change buffer 中,這樣就不需要從磁碟中讀入這個數據頁了。
在下次查詢需要訪問這個數據頁的時候,將數據頁從硬碟讀入記憶體,然後執行 change buffer 中與這個頁有關的操作。通過這種方式就能保證這個數據邏輯的正確性。
雖然名字叫作 change buffer,實際上它是可以持久化的數據。也就是說,change buffer 在記憶體中有拷貝,也會被寫入到磁碟上。
將 change buffer 中的操作應用到原數據頁,得到最新結果的過程稱為 merge。除了訪問這個數據頁會觸發 merge 外,系統有後臺線程會定期 merge。在資料庫正常關閉(shutdown)的過程中,也會執行 merge 操作。
如果能夠將更新操作先記錄在 change buffer,減少讀磁碟,語句的執行速度會得到明顯的提升。而且,數據讀入記憶體是需要占用 buffer pool 的,所以這種方式還能夠避免占用記憶體,提高記憶體利用率。
change buffer 用的是 buffer pool 里的記憶體,不能無限增大。
什麼索引可以使用 change buffer
對於唯一索引來說,所有的更新操作都要先判斷這個操作是否違反唯一性約束,不能使用 change buffer。
比如,要插入 (4,400) 這個記錄,就要先判斷現在表中是否已經存在 k=4 的記錄,而這必須要將數據頁讀入記憶體才能判斷。如果都已經讀入到記憶體了,那直接更新記憶體會更快,就沒必要使用 change buffer 了。
只有普通索引可以使用change buffer。
change buffer 的使用場景
Q:普通索引的所有場景,使用 change buffer 都可以起到加速作用嗎?
A:
因為 merge 的時候是真正進行數據更新的時刻,而 change buffer 的主要目的就是將記錄的變更動作緩存下來,所以在一個數據頁做 merge 之前,change buffer 記錄的變更越多(也就是這個頁面上要更新的次數越多),收益就越大。
因此,對於寫多讀少的業務來說,頁面在寫完以後馬上被訪問到的概率比較小,此時 change buffer 的使用效果最好。這種業務模型常見的就是賬單類、日誌類的系統。
反過來,假設一個業務的更新模式是寫入之後馬上會做查詢,那麼即使滿足了條件,將更新先記錄在 change buffer,但之後由於馬上要訪問這個數據頁,會立即觸發 merge 過程。這樣隨機訪問 IO 的次數不會減少,反而增加了 change buffer 的維護代價。所以,對於這種業務模式來說,change buffer 反而起到了副作用。
Q:merge 的過程是否會把數據直接寫回磁碟?
A:不會
merge 的執行流程:
- 從磁碟讀入數據頁到記憶體(老版本的數據頁);
- 從 change buffer 里找出這個數據頁的 change buffer 記錄 (可能有多個),依次應用,得到新版數據頁;
- 寫 redo log。這個 redo log 包含了數據的變更和 change buffer 的變更。
到這裡 merge 過程就結束了。這時候,數據頁和記憶體中 change buffer 對應的磁碟位置都還沒有修改,屬於臟頁,之後各自刷回自己的物理數據,就是另外一個過程了。
更新過程
如果要在這張表中插入一個新記錄 (4,400) 的話,InnoDB 的處理流程
第一種情況是,這個記錄要更新的目標頁在記憶體中。這時,InnoDB 的處理流程如下:
- 對於唯一索引來說,找到 3 和 5 之間的位置,判斷到沒有衝突,插入這個值,語句執行結束;
- 對於普通索引來說,找到 3 和 5 之間的位置,插入這個值,語句執行結束。
這樣看來,普通索引和唯一索引對更新語句性能影響的差別,只是一個判斷,只會耗費微小的 CPU 時間。
第二種情況是,這個記錄要更新的目標頁不在記憶體中。這時,InnoDB 的處理流程如下:
- 對於唯一索引來說,需要將數據頁讀入記憶體,判斷到沒有衝突,插入這個值,語句執行結束;
- 對於普通索引來說,則是將更新記錄在 change buffer,語句執行就結束了。
將數據從磁碟讀入記憶體涉及隨機 IO 的訪問,是資料庫裡面成本最高的操作之一。change buffer 因為減少了隨機磁碟訪問,所以對更新性能的提升是會很明顯的。
索引選擇和實踐
這兩類索引在查詢能力上是沒差別的,主要考慮的是對更新性能的影響。所以,我建議你儘量選擇普通索引。
如果所有的更新後面,都馬上伴隨著對這個記錄的查詢,那麼你應該關閉 change buffer。而在其他情況下,change buffer 都能提升更新性能。
在實際使用中,你會發現,普通索引和 change buffer 的配合使用,對於數據量大的表的更新優化還是很明顯的。
特別地,在使用機械硬碟時,change buffer 這個機制的收效是非常顯著的。所以,當你有一個類似“歷史數據”的庫,並且出於成本考慮用的是機械硬碟時,那你應該特別關註這些表裡的索引,儘量使用普通索引,然後把 change buffer 儘量開大,以確保這個“歷史數據”表的數據寫入速度。
change buffer 和 redo log
插入
在表上執行這個插入語句:
insert into t(id,k) values(id1,k1),(id2,k2);
假設當前 k 索引樹的狀態,查找到位置後,k1 所在的數據頁在記憶體 (InnoDB buffer pool) 中,k2 所在的數據頁不在記憶體中。
下圖是帶 change buffer 的更新狀態圖。
分析這條更新語句,你會發現它涉及了四個部分:
記憶體、redo log(ib_log_fileX)、 數據表空間(t.ibd)、系統表空間(ibdata1)。
這條更新語句做瞭如下的操作(按照圖中的數字順序):
- Page 1 在記憶體中,直接更新記憶體;
- Page 2 沒有在記憶體中,就在記憶體的 change buffer 區域,記錄下“我要往 Page 2 插入一行”這個信息
- 將上述兩個動作記入 redo log 中(圖中 3 和 4)。
做完上面這些,事務就可以完成了
註意redo記錄的內容是頁面的直接變化
執行這條更新語句的成本很低,就是寫了兩處記憶體,然後寫了一處磁碟(兩次操作合在一起寫了一次磁碟),而且還是順序寫的。
同時,圖中的兩個虛線箭頭,是後臺操作,不影響更新的響應時間。
讀請求
執行查詢請求
select * from t where k in (k1, k2)
如果讀語句發生在更新語句後不久,記憶體中的數據都還在,那麼此時的這兩個讀操作就與系統表空間(ibdata1)和 redo log(ib_log_fileX)無關了。所以,在下圖沒畫出這兩部分。
-
讀 Page 1 的時候,直接從記憶體返回。
Q:WAL 之後如果讀數據,是不是一定要讀盤,是不是一定要從 redo log 裡面把數據更新以後才可以返回?A:不用。你可以看一下圖 3 的這個狀態,雖然磁碟上還是之前的數據,但是這裡直接從記憶體返回結果,結果是正確的。
-
要讀 Page 2 的時候,需要把 Page 2 從磁碟讀入記憶體中,然後應用 change buffer 裡面的操作日誌,生成一個正確的版本並返回結果。直到需要讀 Page 2 的時候,這個數據頁才會被讀入記憶體。
對比這兩個機制在提升更新性能上的收益,redo log 主要節省的是隨機寫磁碟的 IO 消耗(轉成順序寫),而 change buffer 主要節省的則是隨機讀磁碟的 IO 消耗。
Q:change buffer 一開始是寫記憶體的,那麼如果這個時候機器掉電重啟,會不會導致 change buffer 丟失?change buffer 丟失可不是小事兒,再從磁碟讀入數據可就沒有了 merge 過程,就等於是數據丟失了。會不會出現這種情況呢?
A:雖然是只更新記憶體,但是在事務提交的時候,我們把 change buffer 的操作也記錄到 redo log 里了,所以崩潰恢復的時候,change buffer 也能找回來。