千萬級數據的表,我把慢sql優化後性能提升30倍!

来源:https://www.cnblogs.com/douzige/archive/2023/08/02/17600447.html
-Advertisement-
Play Games

### 分享技術,用心生活 >背景:系統中有一個統計頁面載入特別慢,前端設置的40s超時時間都載入不出來數據,因為是個統計頁面,基本上一猜就知道是mysql的語句有問題,遺留了很久沒有解決,正好趁不忙的時候,下定決心一定把它給搞定! ## 1. 分析原因 (mysql5.7) 執行一下問題sql,可 ...


分享技術,用心生活


背景:系統中有一個統計頁面載入特別慢,前端設置的40s超時時間都載入不出來數據,因為是個統計頁面,基本上一猜就知道是mysql的語句有問題,遺留了很久沒有解決,正好趁不忙的時候,下定決心一定把它給搞定!


1. 分析原因

(mysql5.7)
執行一下問題sql,可以看到單表查就需要61s 這怎麼能忍受?

通過explain看一下執行計劃

挑重點,可以看到用命中了名為idx_first_date的索引,但是rows中掃描了1000多萬行的數據,這顯然是sql慢的根源。我們來查一下表數據量:

真真的千萬級的大表!

找到原因後,那麼就需要明確優化方向

  • 通過設置分區
  • 通過水平分表
  • 通過優化sql

我們大概會有以上三種思路

分區方案會有諸多限制,比如可能會索引失效,占用記憶體,有主鍵限制等,故不採納

分表方案看來可行,通過縮小熱點數據,把非熱點數據全部放入分表。是可以達到效果。不過查詢表寫入日期後,發現最早在2021年。目前系統內查詢統計還會經常用到2021年數據。如果貿然分表後,帶來的連表查詢,數據管理問題等,現有代碼可能會出大問題。

那麼就只剩下優化sql這一條路了,雖然是千萬級數據的表,但是你要相信mysql是可以支撐的。

確定方向後,那就需要解決如何通過減少數據的掃描來實現提升性能。

通過sql可以看到,這個統計sql是根據日期查詢的,而且也命中了索引,那麼為什麼還會掃描這麼多數據呢?我們再去看下表的索引

發現貓膩了吧,idx_first_date是個聯合索引,再根據上圖key_len長度為67和最左匹配原則可知,mysql執行器是優先使用customer_id去掃描數據。所以幾乎全表掃描了。

我們把idx_first_date修改一下聯合索引的欄位順序,把first_date放在第一位,我們再來執行一下sql看下結果

1.6s!大呼!性能直接提升30倍!

你以為到這裡就結束了嗎?不不不!再看一張圖

發現了嗎,因為用了聯合索引,導致索引占用空間過大,比數據占用都大。我認為這裡存在濫用索引的現象。索引本身不止會占用空間,而且也會降低寫入性能,維護更新索引成本過高等。

idx_first_date中的customer_id欄位去掉,再看下索引占用情況

下降至2.6G,減少了將近1.4G的索引占用。
至此,這張千萬數據的大表慢sql已優化完,不僅提升了查詢性能,也減少了索引帶來的空間占用過大的問題。

本文由mdnice多平臺發佈


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • # 個人博客-首頁排版優化 # 優化計劃 - [x] 置頂3個且可滾動或切換 - [ ] 推薦改為4個,然後新增歷史文章,將推薦的載入更多放入歷史文章,按文章發佈時間降序排列。 - [ ] 標簽功能,可以為文章貼上標簽 - [ ] 推薦點贊功能 本篇文章優化置頂 # 原先置頂如圖 ![image]( ...
  • # C#委托 太久沒用了,簡單的複習一下 快速過一遍語法使用 ## 使用委托的步驟 1.定義一個委托類型 只需要在聲明的前面加上delegate關鍵字,其他的就跟聲明一個方法(函數)類似 ~~~ public delegate void SayHello(string name); ~~~ 2.使用 ...
  • # Unity BuildPlayerProcessor Unity BuildPlayerProcessor是Unity引擎中的一個非常有用的功能,它可以讓開發者在構建項目時自動執行一些操作。這個功能可以幫助開發者提高工作效率,減少手動操作的時間和錯誤率。在本文中,我們將介紹Unity Build ...
  • module_init是linux內核提供的一個巨集, 可以用來在編寫內核模塊時註冊一個初始化函數, 當模塊被載入的時候, 內核負責執行這個初始化函數. 在編寫設備驅動程式時, 使用這個巨集看起來理所應當, 沒什麼特別的, 但畢竟我還是一個有點追求的程式員嘛:P, 這篇文章是我學習module_init... ...
  • 第一種 每打開一次終端都輸入一次 source /etc/profile,這樣就可以載入配置文件,環境變數自然就有了 第二種 輸入vim ./bashrc,在底部添加配置在/etc/profile里的配置,這樣就可以無需使用source命令載入了 也可以在./bashrc底部添加 source /e... ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230802124620904-1514854566.png) # 1. 示例數據 ## 1.1. student ```sql insert into student val ...
  • 當企業的業務發展到一定的階段時,在系統中引入[監控告警系統](https://www.dtstack.com/dtengine/easymr?src=szsm)來對系統/業務進行監控是必備的流程。沒有監控或者沒有一個好的監控,會導致開發人員無法快速判斷系統是否健康;告警的實質則是“把人當服務用”,用 ...
  • 開發者的技術能力良莠不齊,DBA對資料庫知識的局限性導致爛SQL無處不在,而且隨著資料庫的不斷變更或演進,一些好的SQL也可能逐步變成需要優化的爛SQL, 我們要時刻不斷地找尋它們的蹤跡。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...