mysql實戰45講讀書筆記(一) 一條SQL查詢語句是如何執行的

来源:https://www.cnblogs.com/suibian1/archive/2019/05/19/10888693.html
-Advertisement-
Play Games

我們經常說,看一個事兒千萬不要直接陷入細節里,你應該先鳥瞰其全貌,這樣能夠幫助你從高維度理解問題。同樣,對於MySQL的學習也是這樣。平時我們使用資料庫,看到的通常都是一個整體。比如,你有個最簡單的表,表裡只有一個ID欄位,在執行下麵這個查詢語句時: 我們看到的只是輸入一條語句,返回一個結果,卻不知 ...


我們經常說,看一個事兒千萬不要直接陷入細節里,你應該先鳥瞰其全貌,這樣能夠幫助你從高維度理解問題。同樣,對於MySQL的學習也是這樣。平時我們使用資料庫,看到的通常都是一個整體。比如,你有個最簡單的表,表裡只有一個ID欄位,在執行下麵這個查詢語句時:

mysql> select * from T where ID=10;

我們看到的只是輸入一條語句,返回一個結果,卻不知道這條語句在MySQL內部的執行過程。

所以今天我想和你一起把MySQL拆解一下,看看裡面都有哪些“零件”,希望藉由這個拆解過程,讓你對MySQL有更深入的理解。這樣當我們碰到MySQL的一些異常或者問題時,就能夠直戳本質,更為快速地定位並解決問題。

下麵我給出的是MySQL的基本架構示意圖,從中你可以清楚地看到SQL語句在MySQL的各個功能模塊中的執行過程。

MySQL的邏輯架構圖

大體來說,MySQL可以分為Server層和存儲引擎層兩部分。

Server層包括連接器、查詢緩存、分析器、優化器、執行器等,涵蓋MySQL的大多數核心服務功能,以及所有的內置函數(如日期、時間、數學和加密函數等),所有跨存儲引擎的功能都在這一層實現,比如存儲過程、觸發器、視圖等。

而存儲引擎層負責數據的存儲和提取。其架構模式是插件式的,支持InnoDB、MyISAM、Memory等多個存儲引擎。現在最常用的存儲引擎是InnoDB,它從MySQL 5.5.5版本開始成為了預設存儲引擎。

也就是說,你執行create table建表的時候,如果不指定引擎類型,預設使用的就是InnoDB。不過,你也可以通過指定存儲引擎的類型來選擇別的引擎,比如在create table語句中使用engine=memory, 來指定使用記憶體引擎創建表。不同存儲引擎的表數據存取方式不同,支持的功能也不同,在後面的文章中,我們會討論到引擎的選擇。

從圖中不難看出,不同的存儲引擎共用一個Server層,也就是從連接器到執行器的部分。你可以先對每個組件的名字有個印象,接下來我會結合開頭提到的那條SQL語句,帶你走一遍整個執行流程,依次看下每個組件的作用。

連接器

第一步,你會先連接到這個資料庫上,這時候接待你的就是連接器。連接器負責跟客戶端建立連接、獲取許可權、維持和管理連接。連接命令一般是這麼寫的:

mysql -h$ip -P$port -u$user -p

輸完命令之後,你就需要在交互對話裡面輸入密碼。雖然密碼也可以直接跟在-p後面寫在命令行中,但這樣可能會導致你的密碼泄露。如果你連的是生產伺服器,強烈建議你不要這麼做。

連接命令中的mysql是客戶端工具,用來跟服務端建立連接。在完成經典的TCP握手後,連接器就要開始認證你的身份,這個時候用的就是你輸入的用戶名和密碼。

  • 如果用戶名或密碼不對,你就會收到一個"Access denied for user"的錯誤,然後客戶端程式結束執行。
  • 如果用戶名密碼認證通過,連接器會到許可權表裡面查出你擁有的許可權。之後,這個連接裡面的許可權判斷邏輯,都將依賴於此時讀到的許可權。

這就意味著,一個用戶成功建立連接後,即使你用管理員賬號對這個用戶的許可權做了修改,也不會影響已經存在連接的許可權。修改完成後,只有再新建的連接才會使用新的許可權設置。

連接完成後,如果你沒有後續的動作,這個連接就處於空閑狀態,你可以在show processlist命令中看到它。文本中這個圖是show processlist的結果,其中的Command列顯示為“Sleep”的這一行,就表示現在系統裡面有一個空閑連接。


客戶端如果太長時間沒動靜,連接器就會自動將它斷開。這個時間是由參數wait_timeout控制的,預設值是8小時。

如果在連接被斷開之後,客戶端再次發送請求的話,就會收到一個錯誤提醒: Lost connection to MySQL server during query。這時候如果你要繼續,就需要重連,然後再執行請求了。

資料庫裡面,長連接是指連接成功後,如果客戶端持續有請求,則一直使用同一個連接。短連接則是指每次執行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個。

建立連接的過程通常是比較複雜的,所以我建議你在使用中要儘量減少建立連接的動作,也就是儘量使用長連接。

但是全部使用長連接後,你可能會發現,有些時候MySQL占用記憶體漲得特別快,這是因為MySQL在執行過程中臨時使用的記憶體是管理在連接對象裡面的。這些資源會在連接斷開的時候才釋放。所以如果長連接累積下來,可能導致記憶體占用太大,被系統強行殺掉(OOM),從現象看就是MySQL異常重啟了。

怎麼解決這個問題呢?你可以考慮以下兩種方案。

  1. 定期斷開長連接。使用一段時間,或者程式裡面判斷執行過一個占用記憶體的大查詢後,斷開連接,之後要查詢再重連。

  2. 如果你用的是MySQL 5.7或更新版本,可以在每次執行一個比較大的操作後,通過執行 mysql_reset_connection來重新初始化連接資源。這個過程不需要重連和重新做許可權驗證,但是會將連接恢復到剛剛創建完時的狀態。

查詢緩存

連接建立完成後,你就可以執行select語句了。執行邏輯就會來到第二步:查詢緩存。

MySQL拿到一個查詢請求後,會先到查詢緩存看看,之前是不是執行過這條語句。之前執行過的語句及其結果可能會以key-value對的形式,被直接緩存在記憶體中。key是查詢的語句,value是查詢的結果。如果你的查詢能夠直接在這個緩存中找到key,那麼這個value就會被直接返回給客戶端。

如果語句不在查詢緩存中,就會繼續後面的執行階段。執行完成後,執行結果會被存入查詢緩存中。你可以看到,如果查詢命中緩存,MySQL不需要執行後面的複雜操作,就可以直接返回結果,這個效率會很高。

但是大多數情況下我會建議你不要使用查詢緩存,為什麼呢?因為查詢緩存往往弊大於利。

查詢緩存的失效非常頻繁,只要有對一個表的更新,這個表上所有的查詢緩存都會被清空。因此很可能你費勁地把結果存起來,還沒使用呢,就被一個更新全清空了。對於更新壓力大的資料庫來說,查詢緩存的命中率會非常低。除非你的業務就是有一張靜態表,很長時間才會更新一次。比如,一個系統配置表,那這張表上的查詢才適合使用查詢緩存。

好在MySQL也提供了這種“按需使用”的方式。你可以將參數query_cache_type設置成DEMAND,這樣對於預設的SQL語句都不使用查詢緩存。而對於你確定要使用查詢緩存的語句,可以用SQL_CACHE顯式指定,像下麵這個語句一樣:

mysql> select SQL_CACHE * from T where ID=10;

需要註意的是,MySQL 8.0版本直接將查詢緩存的整塊功能刪掉了,也就是說8.0開始徹底沒有這個功能了。

分析器

如果沒有命中查詢緩存,就要開始真正執行語句了。首先,MySQL需要知道你要做什麼,因此需要對SQL語句做解析。

分析器先會做“詞法分析”。你輸入的是由多個字元串和空格組成的一條SQL語句,MySQL需要識別出裡面的字元串分別是什麼,代表什麼。

MySQL從你輸入的"select"這個關鍵字識別出來,這是一個查詢語句。它也要把字元串“T”識別成“表名T”,把字元串“ID”識別成“列ID”。

做完了這些識別以後,就要做“語法分析”。根據詞法分析的結果,語法分析器會根據語法規則,判斷你輸入的這個SQL語句是否滿足MySQL語法。

如果你的語句不對,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下麵這個語句select少打了開頭的字母“s”。

mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1

一般語法錯誤會提示第一個出現錯誤的位置,所以你要關註的是緊接“use near”的內容。

優化器

經過了分析器,MySQL就知道你要做什麼了。在開始執行之前,還要先經過優化器的處理。

優化器是在表裡面有多個索引的時候,決定使用哪個索引;或者在一個語句有多表關聯(join)的時候,決定各個表的連接順序。比如你執行下麵這樣的語句,這個語句是執行兩個表的join:

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;
  • 既可以先從表t1裡面取出c=10的記錄的ID值,再根據ID值關聯到表t2,再判斷t2裡面d的值是否等於20。
  • 也可以先從表t2裡面取出d=20的記錄的ID值,再根據ID值關聯到t1,再判斷t1裡面c的值是否等於10。

這兩種執行方法的邏輯結果是一樣的,但是執行的效率會有不同,而優化器的作用就是決定選擇使用哪一個方案。

優化器階段完成後,這個語句的執行方案就確定下來了,然後進入執行器階段。如果你還有一些疑問,比如優化器是怎麼選擇索引的,有沒有可能選擇錯等等,沒關係,我會在後面的文章中單獨展開說明優化器的內容。

執行器

MySQL通過分析器知道了你要做什麼,通過優化器知道了該怎麼做,於是就進入了執行器階段,開始執行語句。

開始執行的時候,要先判斷一下你對這個表T有沒有執行查詢的許可權,如果沒有,就會返回沒有許可權的錯誤,如下所示(在工程實現上,如果命中查詢緩存,會在查詢緩存放回結果的時候,做許可權驗證。查詢也會在優化器之前調用precheck驗證許可權)。

mysql> select * from T where ID=10;

ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有許可權,就打開表繼續執行。打開表的時候,執行器就會根據表的引擎定義,去使用這個引擎提供的介面。

比如我們這個例子中的表T中,ID欄位沒有索引,那麼執行器的執行流程是這樣的:

  1. 調用InnoDB引擎介面取這個表的第一行,判斷ID值是不是10,如果不是則跳過,如果是則將這行存在結果集中;

  2. 調用引擎介面取“下一行”,重覆相同的判斷邏輯,直到取到這個表的最後一行。

  3. 執行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結果集返回給客戶端。

至此,這個語句就執行完成了。

對於有索引的表,執行的邏輯也差不多。第一次調用的是“取滿足條件的第一行”這個介面,之後迴圈取“滿足條件的下一行”這個介面,這些介面都是引擎中已經定義好的。

你會在資料庫的慢查詢日誌中看到一個rows_examined的欄位,表示這個語句執行過程中掃描了多少行。這個值就是在執行器每次調用引擎獲取數據行的時候累加的。

在有些場景下,執行器調用一次,在引擎內部則掃描了多行,因此引擎掃描行數跟rows_examined並不是完全相同的。我們後面會專門有一篇文章來講存儲引擎的內部機制,裡面會有詳細的說明。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1、有3 個表,表結構如下: Student 學生表(學號,姓名,性別,年齡,組織部門) Course 課程表(編號,課程名稱) Sc 選課表(學號,課程編號,成績)。 1)寫一個SQL 語句,查詢選修了’電腦原理’的學生學號和姓名。 2)寫一個SQL 語句,查詢’王小明’同學選修了的課程名字。 ...
  • 摘要: 在sqlserver開發中,常常有同事反饋無法剔除空格,我們可以通過仔細檢查發現,並不是空格字元,而是tab鍵,如下所示: 解決方法: 對於這些特殊字元的替換,我們需採用字元所對應的ascii編碼進行替換,如下所示: 來自:http://www.maomao365.com/?p=7714 h ...
  • [toc] 產生死鎖的必要條件 多個併發事務(2個或者以上) 每個事物都持有了鎖(或者是已經在等待鎖) 每個事務都需要再繼續持有鎖(為了完成事務邏輯,還必須更新更多的行) 事物之間產生加鎖的迴圈等待,形成死鎖 常規鎖模式 LOCK_S(讀鎖,共用鎖) LOCK_X(寫鎖,排它鎖) 鎖的屬性 LOCK ...
  • 日常開發中經常用到一個酒店下有多個標簽比如酒店的風格特點有: `場地方正 豪華 美食 自然採光 園林草坪 溫泉 景區周邊 水景 泳池 中式院落 西式裝修 少數民族 會場進車 高爾夫` 我們一般都會對其進行編號: 存放在資料庫時主要是存放該值的key值,如果一個酒店只有一個標簽是沒什麼問題的,但是如果 ...
  • 使用CTE,ROW_NUMBER,PARTITION BY來處理數據表重覆記錄。 先準備下麵的數據: IF OBJECT_ID('tempdb.dbo.#Part') IS NOT NULL DROP TABLE #Part CREATE TABLE #Part ( [ID] INT, [Item] ...
  • 如標題一樣,檢索每個組的最後一條記錄。 舉例說明,先準備一些數據: 要求是以[Category]來分組, 檢查以[Qty]數據最大的記錄。 CTE查詢分組表: SELECT數據: 只要我拿到row number為1的記錄即可,因為在CTE處理時,已經做好按[Category]來分組併排序。 ...
  • 高級查詢 分組查詢 查看EMPLOYEE表中,員工在同一部門做相同工作且總工資大於5000,平均工資小於1500的薪水情況和人數? 分組查詢註意事項: 如果在查詢結果中的某些欄位上沒有使用分組函數,那麼這些欄位就必須出現在group by子句中。這是一個分組查詢的強制性規則。 非等值連接 簡單地來說 ...
  • SELECT 表名 = Case When A.colorder=1 Then D.name Else '' End, 表說明 = Case When A.colorder=1 Then isnull(F.value,'') Else '' End, 欄位序號 = A.colorder, 欄位名 = ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...