MySQL學習筆記(21):優化磁碟IO

来源:https://www.cnblogs.com/garvenc/archive/2020/07/20/mysql_learning_21_optimize_disk_io.html
-Advertisement-
Play Games

本文更新於2020-04-05,使用MySQL 5.7,操作系統為Deepin 15.4。 使用符號連接分佈IO 利用操作系統的符號連接,將不同的資料庫、表、索引指向不同的物理磁碟,從而達到分佈磁碟IO的目的。 禁止操作系統更新文件的atime屬性 對於讀寫頻繁的資料庫文件來說,記錄文件的訪問時間一 ...


本文更新於2020-04-05,使用MySQL 5.7,操作系統為Deepin 15.4。

目錄

使用符號連接分佈IO

利用操作系統的符號連接,將不同的資料庫、表、索引指向不同的物理磁碟,從而達到分佈磁碟IO的目的。

禁止操作系統更新文件的atime屬性

對於讀寫頻繁的資料庫文件來說,記錄文件的訪問時間一般沒有用處,卻會增加磁碟的負擔,影響IO性能。

用裸設備(Raw Device)存放InnoDB共用表空間

因InnoDB使用緩存機制來緩存索引和數據,操作系統的磁碟IO緩存對其性能不僅沒有幫助,甚至還有反作用。在InnoDB緩存充足的情況下,可以考慮使用裸設備來存放共用表空間。

調整IO調度演算法

Linux實現了4中IO調度演算法:

  • NOOP演算法(No Operation):不對IO請求排序,除了合併請求也不會進行其他任何優化,用最簡單的先進先出FIFO隊列順序提交IO請求。NOOP演算法主要面向隨機訪問設備,如SSD。
  • 最後期限演算法(Deadline):除了維護一個擁有合併和排序功能的請求隊列外,額外維護兩個帶有超時的FIFO隊列,分別是讀請求隊列和寫請求隊列。當調度器發現讀/寫請求隊列中的請求超時,會優先處理這些請求。
  • 預期演算法(Anticipatory):是基於預測的IO演算法,和Deadline類似,也維護了三個請求隊列。區別在於,Anticipatory處理完一個IO請求後並不會直接返回處理下一個請求,而是等待片刻(預設6ms),等待期間如果有新來的相鄰扇區的請求,會直接處理新來的請求。Anticipatory適合寫入較多的環境,不適合資料庫等隨機讀較多的環境。
  • 完全公平隊列(Complete Fair Queuing/CFQ):把IO請求按照進程分別放入進程對應的隊列中,其公平是針對進程而言的。CFQ以時間片演算法為前提,輪轉調動隊列。

建議MySQL資料庫環境設置為Deadline演算法。

使用磁碟陣列(RAID)

RAID(Redundant Array of Inexpensive Disks),即廉價磁碟冗餘陣列,通常叫做磁碟陣列。

RAID級別:

  • RAID0:也叫條帶化。
  • RAID1:也叫磁碟鏡像。
  • RAID10:先做磁碟鏡像,再條帶化。
  • RAID4:像RAID0一樣條帶化,但額外增加一個磁碟用於糾錯。
  • RAID5:對RAID4的改進,但將糾錯數據也分別寫到各個磁碟而不是一個磁碟。

RAID卡電池充放電問題

RAID卡都有寫緩存(Battery Backed Write Cache),寫緩存對IO性能的提升非常明顯。為了避免掉電丟失寫緩存中的數據,RAID卡都有電池(Battery Backup Unit,簡稱BBU)。

RAID緩存策略包括4部分:

  • 寫策略
    • WriteBack:將數據寫入緩存後直接返回。
    • WriteThrough:不使用寫緩存,直接寫入磁碟才返回。
  • 預讀策略
    • ReadAheadNone:不開啟預讀。
    • ReadAhead:開啟預讀,預先把後面的數據載入入緩存。
    • ReadAdaptive:自適應預讀,在緩存和I/O空閑的時候進行預讀。
  • 讀策略
    • Direct:讀操作不進行緩存。
    • Cached:讀操作進行緩存。
  • 故障策略
    • Write Cache OK if Bad BBU:如果BBU出問題,不使用寫緩存,從WriteBack自動切換到WriteThrough。
    • No Write Cache if Bad BBU:如果BBU出問題,仍然使用寫緩存。

RAID卡電池會定期啟動自動校準模式,即定期充放電。期間,RAID卡控制器不會啟動BBU。同時(除非修改緩存策略),也會禁用WriteBack寫緩存策略,以保證數據完整性,造成系統IO性能會出現較大波動。

解決方案:

  • 根據RAID卡電池下次充放電的時間,在業務量較低的時候,提前進行充放電。
  • 即使電池電量低於警戒值甚至電池放電完畢,強制使用WriteBack寫緩存策略。此時一定要有UPS之類的後備電源。

NUMA架構優化

目前的商用伺服器系統架構大體分為三類(一般SMP或NUMA較多):

  • 對稱多處理器架構(SMP/Symmetric Multi-Processor):一臺電腦上彙集了一組CPU,各CPU平等地共用記憶體、IO等資源。SMP也被稱為一致存儲訪問架構(UMA/Uniform Memory Access)。由於共用,導致SMP伺服器的擴展能力非常有限,最受限制的是記憶體,因每個CPU必需通過相同的匯流排訪問相同的記憶體資源。
  • 非一致存儲訪問架構(NUMA/Non-Uniform Memory Access):一臺電腦分為多個節點,每個節點內部擁有多個CPU,節點內部使用共有的記憶體控制器,節點之間通過互聯模塊進行連接和信息交互。節點的所有記憶體對於本節點的所有CPU都是等同的,對於其他節點的所有CPU都是不同的。每個CPU都可以訪問整個系統的記憶體,但訪問本地節點的較快,訪問非本地節點的較慢。因此,隨著CPU數量的增加,系統性能並不能線性增加。
  • 海量並行處理架構(MPP/Massive Parallel Processing):由多個SMP伺服器通過一定的節點互聯網路進行連接,每個節點只訪問本地資源,不訪問其他節點的資源。因而,理論上可以無限擴展。

NUMA的記憶體分配策略有4種:

  • 預設default:總是在當前進程運行的本地節點分配。其節點之間記憶體分配不均衡,當某個CPU節點記憶體不足時,會導致swap產生。
  • 綁定bind:強制分配到指定節點上。
  • 交叉interleave:在所有節點或指定節點上交叉分配記憶體。
  • 優先preferred:在指定節點上分配,失敗則在其他節點上分配。

MySQL對NUMA特性支持不好。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 可以直接用CE進行雷總數修改,下麵是通過C#直接修改雷總數記憶體地址 /// PROCESS_ALL_ACCESS -> (STANDARD_RIGHTS_REQUIRED | SYNCHRONIZE | 0xFFF) public const int PROCESS_ALL_ACCESS = (ST ...
  • 在本文中,我將展示如何使用DfaGraphWriter服務在ASP.NET Core 3.0應用程式中可視化你的終結點路由。上面文章我向您演示瞭如何生成一個有向圖(如我上篇文章中所示),可以使用GraphVizOnline將其可視化。最後,我描述了應用程式生命周期中可以檢索圖形數據的點。 作者:依樂 ...
  • nginx的調度演算法中hash $remote_addr 和ip_hash是把IP地址的前24位做hash,所以如果你的IP前三段相同時,nginx它會認為是和nginxserver是同一區域網,所以它會把請求調度到同一區域網之前來請求過的後端server上進行響應;當然除了我們可以對源地址做ha... ...
  • cut 命令在Linux和Unix中的作用是從文件中的每一行中截取出一些部分,並輸出到標準輸出中。我們可以使用 cut 命令從一行字元串中於以位元組,字元,欄位(分隔符)等單位截取一部分內容出來。 在本文中,我們通過一些例子來瞭解 cut 命令的使用,這些使用方法在我們的日常工作中也是非常常用的。 C ...
  • 方法一: 使用原版wine,並配置q4wine,並下載最新的wechat 進行安裝使用; 可能會出現問題,需要自己調試解決; 方法二: 使用deepin-wine 和deepin-wechat,因為這個已經得到了測試,所以錯誤少點,用的人也多一點; 安裝方式: https://gitee.com/w ...
  • Java整個堆大小設置 Xmx 和 Xms設置為老年代存活對象的3-4倍,即FullGC之後的老年代記憶體占用的3-4倍 永久代PermSize和MaxPermSize設置為老年代存活對象的1.2-1.5倍。 永久區並不是老年代的1.2到1.5倍,而是FullGC後永久區的1.2到1.5倍 1.2x ...
  • swap交換記憶體主要是指當物理記憶體不夠用時,系統會啟用硬碟的一部分空間來充當伺服器記憶體,而預設情況下swap記憶體會有一些設置標準,它與物理記憶體的大小也是有關係的,具體標準如下: Ram大小 Swap大小 激活Swap後合計大小 256MB 256MB 512MB 512MB 512MB 1GB 1G ...
  • 一 跨域概述 1.1 同源策略 同源策略是一個安全策略。同源,指的是協議,功能變數名稱,埠相同。瀏覽器處於安全方面的考慮,只允許本功能變數名稱下的介面交互,不同源的客戶端腳本,在沒有明確授權的情況下,不能讀寫對方的資源。 同源策略主要是基於如下可能的安全隱患: 用戶訪問www.mybank.com,登錄併進行網銀 ...
一周排行
    -Advertisement-
    Play Games
  • Dapr Outbox 是1.12中的功能。 本文只介紹Dapr Outbox 執行流程,Dapr Outbox基本用法請閱讀官方文檔 。本文中appID=order-processor,topic=orders 本文前提知識:熟悉Dapr狀態管理、Dapr發佈訂閱和Outbox 模式。 Outbo ...
  • 引言 在前幾章我們深度講解了單元測試和集成測試的基礎知識,這一章我們來講解一下代碼覆蓋率,代碼覆蓋率是單元測試運行的度量值,覆蓋率通常以百分比表示,用於衡量代碼被測試覆蓋的程度,幫助開發人員評估測試用例的質量和代碼的健壯性。常見的覆蓋率包括語句覆蓋率(Line Coverage)、分支覆蓋率(Bra ...
  • 前言 本文介紹瞭如何使用S7.NET庫實現對西門子PLC DB塊數據的讀寫,記錄了使用電腦模擬,模擬PLC,自至完成測試的詳細流程,並重點介紹了在這個過程中的易錯點,供參考。 用到的軟體: 1.Windows環境下鏈路層網路訪問的行業標準工具(WinPcap_4_1_3.exe)下載鏈接:http ...
  • 從依賴倒置原則(Dependency Inversion Principle, DIP)到控制反轉(Inversion of Control, IoC)再到依賴註入(Dependency Injection, DI)的演進過程,我們可以理解為一種逐步抽象和解耦的設計思想。這種思想在C#等面向對象的編 ...
  • 關於Python中的私有屬性和私有方法 Python對於類的成員沒有嚴格的訪問控制限制,這與其他面相對對象語言有區別。關於私有屬性和私有方法,有如下要點: 1、通常我們約定,兩個下劃線開頭的屬性是私有的(private)。其他為公共的(public); 2、類內部可以訪問私有屬性(方法); 3、類外 ...
  • C++ 訪問說明符 訪問說明符是 C++ 中控制類成員(屬性和方法)可訪問性的關鍵字。它們用於封裝類數據並保護其免受意外修改或濫用。 三種訪問說明符: public:允許從類外部的任何地方訪問成員。 private:僅允許在類內部訪問成員。 protected:允許在類內部及其派生類中訪問成員。 示 ...
  • 寫這個隨筆說一下C++的static_cast和dynamic_cast用在子類與父類的指針轉換時的一些事宜。首先,【static_cast,dynamic_cast】【父類指針,子類指針】,兩兩一組,共有4種組合:用 static_cast 父類轉子類、用 static_cast 子類轉父類、使用 ...
  • /******************************************************************************************************** * * * 設計雙向鏈表的介面 * * * * Copyright (c) 2023-2 ...
  • 相信接觸過spring做開發的小伙伴們一定使用過@ComponentScan註解 @ComponentScan("com.wangm.lifecycle") public class AppConfig { } @ComponentScan指定basePackage,將包下的類按照一定規則註冊成Be ...
  • 操作系統 :CentOS 7.6_x64 opensips版本: 2.4.9 python版本:2.7.5 python作為腳本語言,使用起來很方便,查了下opensips的文檔,支持使用python腳本寫邏輯代碼。今天整理下CentOS7環境下opensips2.4.9的python模塊筆記及使用 ...