MySQL實戰45講 12

来源:https://www.cnblogs.com/ydssx7/archive/2022/07/24/16515461.html
-Advertisement-
Play Games

MySQL實戰45講 12 為什麼我的MySQL會“抖”一下? 你的 SQL 語句為什麼變“慢”了 什麼情況會引發資料庫的 flush 過程 InnoDB 刷臟頁的控制策略 ...


12 | 為什麼我的MySQL會“抖”一下?

一條 SQL 語句,正常執行的時候特別快,但是有時也不知道怎麼回事,它就會變得特別慢,並且這樣的場景很難復現,它不只隨機,而且持續時間還很短。

你的 SQL 語句為什麼變“慢”了

記憶體里的數據寫入磁碟的過程,叫做 flush。在這個 flush 操作執行之前,記憶體里的數據和磁碟里的是不一致的。

記憶體數據頁跟磁碟數據頁內容不一致的時候,我們稱這個記憶體頁為“臟頁”。記憶體數據寫入到磁碟後,記憶體和磁碟上的數據頁的內容就一致了,稱為“乾凈頁”。

平時執行很快的更新操作,其實就是在寫記憶體和日誌,而 MySQL 偶爾“抖”一下的那個瞬間,可能就是在刷臟頁(flush)

什麼情況會引發資料庫的 flush 過程

第一種場景是InnoDB 的redo log 寫滿了。這時候系統會停止所有更新操作,把 checkpoint 往前推進,redo log 留出空間可以繼續寫。

image-20220724195313824

把 checkpoint 位置從 CP 推進到 CP’,就需要將兩個點之間的日誌(淺綠色部分),對應的所有臟頁都 flush 到磁碟上。之後,圖中從 write pos 到 CP’之間就是可以再寫入的 redo log 的區域。


第二種場景是系統記憶體不足。當需要新的記憶體頁,而記憶體不夠用的時候,就要淘汰一些數據頁,空出記憶體給別的數據頁使用。如果淘汰的是“臟頁”,就要先將臟頁寫到磁碟。

Q:如果直接淘汰記憶體,下次需要請求該頁時,直接從磁碟讀入數據頁,然後拿 redo log 出來應用效率不好嘛?

A:

如果刷臟頁一定會寫盤就保證了每個數據頁有兩種狀態

  • 一種是記憶體里存在,記憶體里就肯定是正確的結果,直接返回;

  • 另一種是記憶體里沒有數據,就可以肯定數據文件上是正確的結果,讀入記憶體後返回。

這樣的效率最高。


第三種場景是 MySQL 認為系統“空閑”的時候


第四種場景是 MySQL 正常關閉的情況。這時候,MySQL 會把記憶體的臟頁都 flush 到磁碟上,這樣下次 MySQL 啟動的時候,就可以直接從磁碟上讀數據,啟動速度會很快。

上面四種場景對性能的影響

後兩種情景不會太關註“性能”問題,主要來分析前兩種場景下的性能問題。

第一種是“redo log 寫滿了,要 flush 臟頁”,這種情況是 InnoDB 要儘量避免的。因為出現這種情況的時候,整個系統就不能再接受更新了,所有的更新都必須堵住。如果你從監控上看,這時候更新數會跌為 0

第二種是“記憶體不夠用了,要先將臟頁寫到磁碟”,這種情況其實是常態

InnoDB 用緩衝池(buffer pool)管理記憶體,緩衝池中的記憶體頁有三種狀態:

  • 第一種是,還沒有使用的;
  • 第二種是,使用了並且是乾凈頁;
  • 第三種是,使用了並且是臟頁。

InnoDB 的策略是儘量使用記憶體,因此對於一個長時間運行的庫來說,未被使用的頁面很少。

而當要讀入的數據頁沒有在記憶體的時候,就必須到緩衝池中申請一個數據頁。這時候只能把最久不使用的數據頁從記憶體中淘汰掉:

如果要淘汰的是一個乾凈頁,就直接釋放出來複用;

但如果是臟頁,就必須將臟頁先刷到磁碟,變成乾凈頁後才能復用

所以,刷臟頁雖然是常態,但是出現一個查詢要淘汰的臟頁個數太多,會導致查詢的響應時間明顯變長,明顯影響性能

所以,InnoDB 需要有控制臟頁比例的機制,來儘量避免上面的這兩種情況。

InnoDB 刷臟頁的控制策略

首先,要正確地告訴 InnoDB 所在主機的 IO 能力,這樣 InnoDB 才能知道需要全力刷臟頁的時候,可以刷多快。通過設置 innodb_io_capacity 這個參數為磁碟的 IOPS 來避免浪費磁碟性能。

畢竟磁碟能力不能只用來刷臟頁,還需要服務用戶請求。所以接下來,我們就一起看看 InnoDB 怎麼控制引擎按照“全力”的百分比來刷臟頁

Q:如果你來設計策略控制刷臟頁的速度,會參考哪些因素呢?

A:

如果刷太慢,會出現什麼情況?

首先是記憶體臟頁太多,其次是 redo log 寫滿。

所以,InnoDB 的刷盤速度就是要參考這兩個因素:一個是臟頁比例,一個是 redo log 寫盤速度。

參數 innodb_max_dirty_pages_pct 是臟頁比例上限,預設值是 75%。

F1:InnoDB 會根據當前的臟頁比例(假設為 M),算出一個範圍在 0 到 100 之間的F1

F2:InnoDB 每次寫入的日誌都有一個序號,當前寫入的序號跟 checkpoint 對應的序號之間的差值為 N。InnoDB 會根據這個 N 算出一個範圍在 0 到 100 之間的數字F2

根據上述算得的 F1 和 F2兩個值,取其中較大的值記為 R,之後引擎就可以按照 innodb_io_capacity 定義的能力乘以 R% 來控制刷臟頁的速度。

image-20220724202610955

總結:

合理地設置 innodb_io_capacity 的值,並且平時要多關註臟頁比例,不要讓它經常接近 75%

一個有趣的策略

一旦一個查詢請求需要在執行過程中先 flush 掉一個臟頁時,這個查詢就可能要比平時慢了。而 MySQL 中的一個機制,可能讓你的查詢會更慢:

在準備刷一個臟頁的時候,如果這個數據頁旁邊的數據頁剛好是臟頁,就會把這個“鄰居”也帶著一起刷掉;而且這個把“鄰居”拖下水的邏輯還可以繼續蔓延,也就是對於每個鄰居數據頁,如果跟它相鄰的數據頁也還是臟頁的話,也會被放到一起刷。

在 InnoDB 中,innodb_flush_neighbors 參數就是用來控制這個行為的,值為 1 的時候會有上述的“連坐”機制,值為 0 時表示不找鄰居,自己刷自己的。

在 MySQL 8.0 中,innodb_flush_neighbors 參數的預設值是 0

Q:一個記憶體配置為 128GB、innodb_io_capacity 設置為 20000 的大規格實例,正常會建議你將 redo log 設置成 4 個 1GB 的文件。

但如果你在配置的時候不慎將 redo log 設置成了 1 個 100M 的文件,會發生什麼情況呢?又為什麼會出現這樣的情況呢?

A:

每次事務提交都要寫 redo log,如果設置太小,很快就會被寫滿,也就是下麵這個圖的狀態,這個“環”將很快被寫滿,write pos 一直追著 CP

image-20220724205835828

這時候系統不得不停止所有更新,去推進 checkpoint。

這時,看到的現象是磁碟壓力很小,但是資料庫出現間歇性的性能下跌。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Final Cut Pro for Mac 是Mac系統平臺上一款由蘋果公司開發專業視頻非線性編輯器,Final Cut Pro 帶來創新功能,讓剪接師能夠製作精美的追蹤動態圖像,並可編輯iPhone 13 及iPhone 13 Pro 上以「電影效果」模式拍攝的影片。 詳情:Final Cut P ...
  • 1、Linux簡介 1.1、什麼是Linux Linux是一套免費使用和自由傳播的操作系統。 1.2、學習Linux的原因 1.2.1、企業用人要求 在現如今的時代中,越來越多的IT崗位都提到了要有Linux操作系統的經驗。 這是因為**Linux操作系統提供了很多穩定的發行版本,廣泛的應用在我們各 ...
  • 基礎知識 linux系統的組成 內核(kerner) 根文件系統(rootfs) 內核提供操作系統的功能,根文件系統包含常用的一些工具,這些工具。這些工具的運行離不開glibc庫文件。 程式:二進位程式文件 庫:庫是函數的集合,用來實現介面調用等功能。程式的運行依賴這些庫文件 Linux內核的功能: ...
  • 簡介 這裡說的TCP協議調試定義是在開髮長連接TCP協議應用時,為了驗證代碼流程或查找bug,需要與對端交互數據過來,當需要時可以暫停發送;單條發送;跳過發送;正常發送;發送時修改數據等。 TcpEngine提供的解決方案是:我們前端應用和後端應用網路通信時,先經過TcpEngine轉發,在轉發過程 ...
  • 喜歡收集和整理數字音樂的朋友們快來看啦!今天為大家帶來的是數字音樂收藏庫:Bliss mac版,這是一款專業組織數字音樂軟體,Elsten Software Bliss中文版下載評估您的音樂收藏是否符合您配置的規則,然後它修複問題或要求您確認修複。專輯圖稿自動下載,整理。Bliss mac版是一個簡 ...
  • HE琥珀虛顏破解自由安裝程式教程(001) 前言 自從狗尾草跑路後,HE琥珀就沒法用了,當前APP還沒法破解,但是筆者找到了HE琥珀存在的一些漏洞,可以實現安裝自己的APP。 所需工具 | 所需工具 | | | | : | | 1. | OTG線 | | 2. | 鍵鼠 | | 3. | 電腦等智能 ...
  • 4K TokKit是一款跨平臺的桌面應用程式,用於大規模TikTok視頻下載。它使您能夠備份TikTok帳戶,保存來自其他TikTok配置文件和哈希標記的視頻。此應用程式非常適合那些想要創建最喜愛的短片段的數字畫廊、一次抓取多個TikTok視頻以及自動從各種TikTok創建者和主題下載新內容的人。 ...
  • Httpd 1.httpd簡介 httpd是Apache超文本傳輸協議(HTTP)伺服器的主程式。被設計為一個獨立運行的後臺進程,它會建立一個處理請求的子進程或線程的池。 通常,httpd不應該被直接調用,而應該在類Unix系統中由apachectl調用,在Windows中作為服務運行。 2.htt ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...