【講故事】 近端時間一直在做一些資料庫查詢的工作,主要是根據表中的“日期”與“產品名”兩個欄位為條件在對錶進行相關查詢。 但當表數據量達到3000萬以上時,發現查詢速度呈幾何級下降,變得超慢不說,而且每查詢一次,伺服器記憶體的使用量就一點點上升直至占用100%,我就不得不重啟伺服器... :( 這時, ...
【講故事】
近端時間一直在做一些資料庫查詢的工作,主要是根據表中的“日期”與“產品名”兩個欄位為條件在對錶進行相關查詢。
但當表數據量達到3000萬以上時,發現查詢速度呈幾何級下降,變得超慢不說,而且每查詢一次,伺服器記憶體的使用量就一點點上升直至占用100%,我就不得不重啟伺服器... :(
這時,主鍵、索引、聚集索引、等等、關鍵詞浮現在我的腦海中,知道它們就是提高表查詢速度,解決問題的關鍵。但一時又弄不清它們之間的區別&串並聯關係,一系列疑問浮現在我的腦海中:
(1)主鍵 就是 唯一索引 麽?
(2)唯一索引 就是 聚集索引 麽?
(3)聚集索引 與 非聚集索引 有什麼區別?哪個更快?什麼時候用前者、什麼時候用後者?
(4)一個表可以建立多個索引?多個唯一索引?多個聚集索引?多個非聚集索引?
懷揣著這些疑問,我開始了探索之旅...
【主鍵和唯一索引的區別】
1 主鍵是一種約束,唯一索引是一種索引,兩者在本質上是不同的。
2 主鍵創建後一定包含一個唯一性索引,唯一性索引不一定就是主鍵。
3 唯一性索引列允許空值, 而主鍵列不允許為空值。
4 主鍵可以被其他表引用為外鍵,而唯一索引不能。
5 一個表最多只能創建一個主鍵,但是可以創建多個唯一索引。
【聚集索引和非聚集索引的區別】
一.索引結構
實際上,可以把索引理解為一種特殊的目錄。下麵,我們舉例來說明一下聚集索引和非聚集索引的區別:
其實,我們的漢語字典的正文本身就是一個聚集索引。比如,我們要查“安”字,因為“安”的拼音是“an”,而按照拼音排序漢字的字典是以英文字母“a”開頭並以“z”結尾的,那麼“安”字就自然地排在字典的前部。如果您翻完了所有以“a”開頭的部分仍然找不到這個字,那麼就說明您的字典中沒有這個字。也就是說,字典的正文部分本身就是一個目錄,您不需要再去查其他目錄來找到您需要找的內容。我們把這種正文內容本身就是一種按照一定規則排列的目錄稱為“聚集索引”。
如果遇到不認識的字,不知道它的發音,這時候,需要去根據“偏旁部首”查到您要找的字,然後根據這個字後的頁碼直接翻到某頁來找到您要找的字。但您結合“部首目錄”和“檢字表”而查到的字的排序並不是真正的正文的排序方法,比如您查“張”字,我們可以看到在查部首之後的檢字表中“張”的頁碼是672頁,檢字表中“張”的上面是“馳”字,但頁碼卻是63頁,“張”的下麵是“弩”字,頁面是390頁。很顯然,這些字並不是真正的分別位於“張”字的上下方,現在您看到的連續的“馳、張、弩”三字實際上就是他們在非聚集索引中的排序,是字典正文中的字在非聚集索引中的映射。我們可以通過這種方式來找到您所需要的字,但它需要兩個過程,先找到目錄中的結果,然後再翻到您所需要的頁碼。我們把這種目錄純粹是目錄,正文純粹是正文的排序方式稱為“非聚集索引”。
通過以上例子,我們可以理解到什麼是“聚集索引”和“非聚集索引”。進一步引申一下,我們可以很容易的理解:每個表只能有一個聚集索引,因為目錄只能按照一種方法進行排序。
二.區別-
聚集索引一個表只能有一個,而非聚集索引一個表可以存在多個
-
聚集索引存儲記錄是物理上連續存在,而非聚集索引是邏輯上的連續,物理存儲並不連續
-
聚集索引:物理存儲按照索引排序;聚集索引是一種索引組織形式,索引的鍵值邏輯順序決定了表數據行的物理存儲順序。
非聚集索引:物理存儲不按照索引排序;非聚集索引則就是普通索引了,僅僅只是對數據列創建相應的索引,不影響整個表的物理存儲順序。
-
索引是通過二叉樹的數據結構來描述的,我們可以這麼理解聚簇索引:索引的葉節點就是數據節點。而非聚簇索引的葉節點仍然是索引節點,只不過有一個指針指向對應的數據塊。
-
聚集索引插入數據時速度要慢(時間花費在“物理存儲的排序”上,也就是首先要找到位置然後插入),查詢數據比非聚集數據的速度快。
三.使用場景
動作描述 | 使用聚集索引 | 使用非聚集索引 |
---|---|---|
列經常被分組排序 | 應 | 應 |
返回某範圍內的數據 | 應 | 不應 |
一個或極少不同值 | 不應 | 不應 |
小數目的不同值 | 應 | 不應 |
大數目的不同值 | 不應 | 應 |
頻繁更新的列 | 不應 | 應 |
外鍵列 | 應 | 應 |
主鍵列 | 應 | 應 |
頻繁修改索引列 | 不應 | 應 |
四.結合實際,談索引使用的誤區
理論的目的是應用。雖然我們剛纔列出了何時應使用聚集索引或非聚集索引,但在實踐中以上規則卻很容易被忽視或不能根據實際情況進行綜合分析。下麵我們將根據在實踐中遇到的實際問題來談一下索引使用的誤區,以便於大家掌握索引建立的方法。
1、聚集索引的欄位要求唯一–錯誤的想法
如果認為是的朋友,可能是受系統預設設置的影響,一般我們指定一個表的主鍵,如果這個表之前沒有聚集索引,同時建立主鍵時候沒有強制指定使用非聚集索引,SQL會預設在此欄位上創建一個聚集索引,而主鍵都是唯一的,所以理所當然的認為創建聚集索引的欄位也需要唯一。而事實上,聚集索引可以創建在任何一列你想創建的欄位上。
2、主鍵就是聚集索引–錯誤的想法
這種想法是極端錯誤的,是對聚集索引的一種浪費。雖然預設是在主鍵上建立聚集索引的。通常,我們會在每個表中都建立一個ID列,以區分每條數據,並且這個ID列是自動增大的,步長一般為1。如果我們將這個列設為主鍵,mysql會將此列預設為聚集索引。這樣做有好處,就是可以讓您的數據在資料庫中按照ID進行物理排序,但這樣做意義不大。顯而易見,聚集索引的優勢是很明顯的,而每個表中只能有一個聚集索引的規則,這使得聚集索引變得更加珍貴。從我們前面談到的聚集索引的定義我們可以看出,使用聚集索引的最大好處就是能夠根據查詢要求,迅速縮小查詢範圍,避免全表掃描。在實際應用中,因為 ID號是自動生成的,我們並不知道每條記錄的ID號,所以我們很難在實踐中用ID號來進行查詢。這就使讓ID號這個主鍵作為聚集索引成為一種資源浪費。其次,讓每個ID號都不同的欄位作為聚集索引也不符合“大數目的不同值情況下不應建立聚合索引”規則;當然,這種情況只是針對用戶經常修改記錄內容,特別是索引項的時候會負作用,但對於查詢速度並沒有影響。如在辦公自動化系統中,無論是系統首頁顯示的需要用戶簽收的文件、會議還是用戶進行文件查詢等任何情況下進行數據查詢都離不開欄位的是“日期”還有用戶本身的“用戶名”。通常,辦公自動化的首頁會顯示每個用戶尚未簽收的文件或會議。雖然我們的where語句可以僅僅限制當前用戶尚未簽收的情況,但如果您的系統已建立了很長時間,並且數據量很大,那麼,每次每個用戶打開首頁的時候都進行一次全表掃描,這樣做意義是不大的,絕大多數的用戶1個月前的文件都已經瀏覽過了,這樣做只能徒增資料庫的開銷而已。事實上,我們完全可以讓用戶打開系統首頁時,資料庫僅僅查詢這個用戶近3個月來未閱覽的文件,通過“日期”這個欄位來限製表掃描,提高查詢速度。如果您的辦公自動化系統已經建立的2年,那麼您的首頁顯示速度理論上將是原來速度8倍,甚至更快。在這裡之所以提到“理論上”三字,是因為如果您的聚集索引還是盲目地建在ID這個主鍵上時,您的查詢速度是沒有這麼高的,即使您在“日期”這個欄位上建立的索引(非聚合索引)。下麵我們就來看一下在1000萬條數據量的情況下各種查詢的速度表現(3個月內的數據為25萬條):
1).僅在主鍵上建立聚集索引,並且不劃分時間段:
Select gid,fariqi,neibuyonghu,title from tgongwen用時:128470毫秒(即:128秒)
2).在主鍵上建立聚集索引,在fariq上建立非聚集索引:
select gid,fariqi,neibuyonghu,title from Tgongwenwhere fariqi> dateadd(day,-90,getdate())用時:53763毫秒(54秒)
3).將聚合索引建立在日期列(fariqi)上:
select gid,fariqi,neibuyonghu,title from Tgongwenwhere fariqi> dateadd(day,-90,getdate())用時:2423毫秒(2秒)
雖然每條語句提取出來的都是25萬條數據,各種情況的差異卻是巨大的,特別是將聚集索引建立在日期列時的差異。事實上,如果您的資料庫真的有1000 萬容量的話,把主鍵建立在ID列上,就像以上的第1、2種情況,在網頁上的表現就是超時,根本就無法顯示。這也是摒棄ID列作為聚集索引的一個最重要的因素。
3、把所有需要提高查詢速度的欄位都加進聚集索引,以提高查詢速度–錯誤的想法
上面已經談到:在進行數據查詢時都離不開欄位的是“日期”還有用戶本身的“用戶名”。既然這兩個欄位都是如此的重要,我們可以把他們合併起來,建立一個複合索引(compound index)。很多人認為只要把任何欄位加進聚集索引,就能提高查詢速度,也有人感到迷惑:如果把複合的聚集索引欄位分開查詢,那麼查詢速度會減慢嗎?帶著這個問題,我們來看一下以下的查詢速度(結果集都是25萬條數據):(日期列fariqi首先排在複合聚集索引的起始列,用戶名neibuyonghu排在後列):
1).select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>’‘2020-5-5’’
查詢速度:2513毫秒
2).select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>’‘2020-5-5’’ and neibuyonghu=’‘辦公室’’
查詢速度:2516毫秒
3).select gid,fariqi,neibuyonghu,title from Tgongwen where neibuyonghu=’‘辦公室’’
查詢速度:60280毫秒
從以上試驗中,我們可以看到如果僅用聚集索引的起始列作為查詢條件和同時用到複合聚集索引的全部列的查詢速度是幾乎一樣的,甚至比用上全部的複合索引列還要略快(在查詢結果集數目一樣的情況下);而如果僅用複合聚集索引的非起始列作為查詢條件的話,這個索引是不起任何作用的。當然,語句1、2的查詢速度一樣是因為查詢的條目數一樣,如果複合索引的所有列都用上,而且查詢結果少的話,這樣就會形成“索引覆蓋”,因而性能可以達到最優。同時,請記住:無論您是否經常使用聚合索引的其他列,但其前導列一定要是使用最頻繁的列。
五.其它書上沒有的索引使用經驗總結
1、SQL查詢語句中,where與order by後面的欄位往往最應該加索引
2、使用聚集索引內的時間段,搜索時間會按數據占整個數據表的百分比成比例減少
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>’‘2020-1-1’’
用時:6343毫秒(提取100萬條)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>’‘2020-6-6’’
用時:3170毫秒(提取50萬條)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi=’‘2020-9-16’’
用時:3326毫秒(和上句的結果一模一樣。如果採集的數量一樣,那麼用大於號和等於號是一樣的)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>’‘2020-1-1’’ and fariqi<’‘2020-6-6’’
用時:3280毫秒