執行計劃緩存,Prepared Statement性能躍升的秘密

来源:https://www.cnblogs.com/huaweiyun/archive/2023/06/02/17451771.html
-Advertisement-
Play Games

摘要:一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。 本文分享自華為雲社區《執行計劃緩存,Prepared Statement性能躍升的秘密》,作者: GaussDB 資料庫。 引言 在資料庫系統中,SQL(Structure ...


摘要:一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。

本文分享自華為雲社區《執行計劃緩存,Prepared Statement性能躍升的秘密》,作者: GaussDB 資料庫。

引言

在資料庫系統中,SQL(Structured Query Language)語句輸入到系統後,一般要經歷:詞法語法解析(parse)、重寫(resolve)、優化(optimize)、執行(execute)的過程。詞法語法分析,重寫和優化,這三個階段會生成SQL語句的執行計劃 (plan)。當SQL語句存在多種執行計劃的時候,優化器會從這許多的執行計劃中挑選出一個它認為最優的(通常是占用系統資源最少的,包括CPU以及IO等)作為最終的執行計劃供執行器執行。生成執行計劃的過程會消耗較多的時間,特別是存在許多可選的執行計劃時。

圖1:SQL語句執行

Prepared Statement是將SQL語句中的值用占位符替代,可以視為將SQL語句模板化或者說參數化。當執行PREPARE語句時,傳統MySQL將對指定的語句進行詞法語法解析和重寫,如上圖①②。該階段稱為預編譯階段。Prepared Statement的優勢在於一次編譯、多次運行,省去了預編譯階段需要的時間。隨後發出EXECUTE命令時,MySQL將對編譯階段生成的結構執行優化,即上圖的③,生成對應的執行計劃並執行,把輸出結果返回到客戶端。例如:

PREPARE stmt FROM ‘SELECT * FROM t WHERE t.a = ?’;
SET @var = 2;
EXECUTE stmt USING @var;

傳統MySQL的Prepared Statement只會節省SQL語句的解析及重寫過程需要的時間,但是對於一條SQL語句,如文章開頭所述,優化SQL語句並生成執行計劃需要耗費大量的資源以及時間。如果能將該Prepared Statement語句對應的最終執行計划進行緩存,當執行EXECUTE語句的時候,就可以直接使用已緩存的執行計劃,從而就可以跳過SQL語句生成執行計劃的整個過程,進而可以提高語句的執行性能。為此,GaussDB(for MySQL) 提供了Prepared Statement執行計劃緩存特性。

接下來一起看一下GaussDB(for MySQL)是如何對執行計划進行緩存並加速Prepared Statement性能的。

執行計劃緩存工作原理

GaussDB(for MySQL)對Prepared Statement執行計划進行緩存的基本原理和流程如下圖所示:

  • 響應EXECUTE,執行查詢。
  • 通過is_plan_cached過程來查看當前Query的執行計劃是否已經被緩存。
  • 如果已經被緩存,優化器將對當前的Query緩存的執行計划進行初始化,根據執行計劃的上下文還原執行計劃,然後利用還原的執行計劃繼續執行。
  • 如果沒有被緩存,在執行完Query優化生成執行計劃之後,通過is_query_cachable過程驗證當前執行計劃是否可以被緩存。
  • 如果滿足緩存條件,執行計劃將會被緩存(調用cache_JOIN_plan),以便以後的EXECUTE語句可以利用該緩存的計划進行執行。
  • 如果不能緩存,通過傳統的MySQL執行流程(優化,生成執行計劃然後執行)執行EXECUTE語句。

執行計劃緩存管理

  • 執行計劃緩存功能開關

GaussDB(for MySQL)引入了一個新的系統參數rds_plan_cache來開關Prepared Statement執行計劃緩存功能。

rds_plan_cache:該參數可以設置為ON/OFF。分別代表開啟和關閉執行計劃緩存。該參數是Session/Global級別的參數。

  • 查看執行計劃緩存情況

GaussDB(for MySQL)提供了兩個狀態變數供用戶查看或者驗證Prepared Statement執行計劃是否被緩存,以及在執行時是否命中了緩存的執行計劃。

  • cached_plan_count:顯示有多少個Prepared Statement緩存了執行計劃。這是一個Global級別的狀態變數。
  • cached_plan_hits:顯示EXECUTE執行過程中命中了緩存的執行計劃的次數。這是一個Session/Global狀態。

下麵舉例來看一下Prepared Statement是如何利用了執行計劃緩存特性的:

SET @a = 'two';
SET @b = 3;
PREPARE stmt FROM "SELECT * FROM t1 WHERE b = ? AND c = ?";
EXECUTE stmt USING @a,@b;

執行結果如下:

a b c
6 two 3

再次執行Prepared Statement:

EXECUTE stmt USING @a,@b;
a b c
6 two 3

第三次執行Prepared Statement:

execute stmt using @a,@b;
a b c
6 two 3

通過cached_plan_count和cached_plan_hits查看stmt執行計劃是否被緩存,以及在執行時是否命中了緩存的執行計劃。

SHOW SESSION STATUS LIKE "cached_plan%";

顯示結果如下:

Variable_name Value
Cached_plan_count 1
Cached_plan_hits 2

從顯示結果可以看出,第一次執行EXECUTE語句的時候,Prepared Statement對執行計划進行了緩存,即可以看到Cached_plan_count為1; 之後執行兩次EXECUTE語句,都命中了執行計劃緩存,所以可以看到Cached_plan_hits變成了2。

緩存的執行計劃如何失效

為了保持當前緩存的執行計劃是儘可能最優的,GaussDB(for MySQL)定義瞭如下規則來對當前緩存的計划進行失效,並重新生成執行計劃:

  • 執行計劃相關表的記錄數更改超過總記錄數的20%。
    這意味著當前表的記錄數如果插入/刪除超過20%的記錄,當前緩存計劃將失效併在優化後重新緩存。註:記錄數是根據統計數據估計的。所以最好先對錶進行Analyze。
  • 表定義進行了更改。
    例如,執行計劃相關表上進行的DDL將導致緩存計劃無效,併在優化後重新緩存。
  • 如果系統變數Optimizer_switch中影響執行計劃生成的選項值進行了更改,則緩存的計劃將失效,併在優化後重新緩存。
  • 系統字元集發生變化,與緩存的計劃不同時,將導致緩存計劃失效,併在優化後重新緩存。

執行計劃緩存功能當前的一些限制

GaussDB(for MySQL)的Prepared Statement的目的是節約查詢的優化時間。對於通過並行查詢優化的大查詢,也就是數據量相對龐大的查詢,這些查詢大部分的執行時間是集中在執行計劃的執行階段。對於該類型的查詢,優化時間相比執行時間而言可以忽略不計,所以GaussDB(for MySQL)沒有對並行查詢計划進行緩存。另外,GaussDB(for MySQL)對於Prepared statement 緩存執行計劃的能力還在逐步增強中,比如當前只支持單表的SELECT查詢語句,暫時還不支持UNION操作。

執行計劃緩存性能測試結果

對於使用執行計劃緩存和不使用執行計劃緩存的場景,基於Sysbench測試集進行了性能測試對比,從測試結果可以看出,在啟用執行計劃緩存後,各類業務性能均有提升。註意:這些測試只代表相對數字,並不代表實際性能。

測試環境配置如下:

數據集 : 8 個表,每個表1000萬行
測試伺服器:Intel(R) Xeon(R) CPU E5-2690 v4 @ 2.60GHz 2 physical cores 56 processors 460G memory

總結

GaussDB(for MySQL)通過緩存執行計劃,可以提升Prepared Statement的性能。特別是針對Range Scan的測試集,性能提升可達2倍左右。未來我們會支持越來越多的查詢場景,性能加速值得期待。

 

點擊關註,第一時間瞭解華為雲新鮮技術~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • AH8670C 是一款內部集成有功率MOSFET管可設定輸出電流的降壓型開關穩壓器。TD:186*4884*3702*V可工作在寬輸入電壓範圍具有優良的負載和線性調整。寬範圍輸入電壓(8V至90V)可提供最大3A電流的高效率輸出,可在移動環境輸入的條件下實現各種降壓型 電源 變換的應用。 安全保護機 ...
  • > 安裝轉載:https://www.cnblogs.com/saryli/p/9729591.html > > 插件轉載:https://blog.csdn.net/nbdclw/article/details/107441772 #### 安裝及配置環境 ##### 第一步:下載並安裝erlan ...
  • 此日海光新至,為其接風飲宴。席間其樂融融,眾CPU互報姓名,曰:海光C86-3250、龍芯3A5000、飛騰D2000、兆芯KX-U6780A。其間海光3250言其太上蠻橫,只許子弟行走於伺服器和工作站之間,圍坐桌面乃是越矩,此番被拘於此方知桌面之妙,願以文會友,以人鑒己。老夫雖知其本意,卻亦有意相... ...
  • kprobe_events shell模式使用教程 kprobe 使用前提 需要內核啟用以下配置 CONFIG_KPROBES=y CONFIG_HAVE_KPROBES=y CONFIG_KPROBE_EVENT=y kprobe_events kprobe_events有兩種類型:kprobe, ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202306/3076680-20230602231102469-1389179464.png) # 1. 基礎思想 ## 1.1. 預寫日誌記錄 ## 1.2. 兩階段提交 ## 1.3. 關係資料庫 # 2 ...
  • # Redis Redis是一個開源(BSD許可高性能的記憶體存儲的key-value資料庫! 可用作資料庫,高速緩存和消息隊列代理。它支持字元串、哈希表、列表(List)、集合(Set)、有序集合(Ordered Sets),點陣圖(bitmap),hyperloglogs,GEO等數據類型。內置複製 ...
  • 有很多朋友對中國文化歷史相關的數據感興趣,現有的中華上下五千年、世界五千年這類的數據記錄數還太少太少,於是今天就採集了一個中華歷史網站,共有效採集到近8萬條記錄。 分類彙總情況:野史秘聞(12273)、歷史人物(8840)、歷史雜談(7928)、文史百科(5635)、歷史趣聞(5282)、雜說歷史( ...
  • 這段時間破解了中高學生知識題庫,包含高中英語題庫、小學英語題庫、初中地理題庫、初中歷史題庫、高中歷史題庫、初中生物題庫,數據表結構都一樣,今天發的這份是上萬條的高中歷史題庫,截圖包含所有欄位,截圖下方有顯示共有記錄數。 參考項有:古代中國的政治制度(2846)、近代中國的民主革命(2493)、古代中 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...