SQL優化之SELECT COUNT(*)

来源:https://www.cnblogs.com/star8521/archive/2020/05/25/12954985.html
-Advertisement-
Play Games

前言 SQL優化之SQL 進階技巧(上) SQL優化之SQL 進階技巧(下)中提到使用以下 sql 會導致慢查詢 SELECT COUNT( ) FROM SomeTable SELECT COUNT(1) FROM SomeTable 原因是會造成全表掃描,有位讀者說這種說法是有問題的,實際上針對 ...


前言

SQL優化之SQL 進階技巧(上) SQL優化之SQL 進階技巧(下)中提到使用以下 sql 會導致慢查詢



SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable

原因是會造成全表掃描,有位讀者說這種說法是有問題的,實際上針對無 where_clause 的 COUNT(*),MySQL 是有優化的,優化器會選擇成本最小的輔助索引查詢計數,其實反而性能最高,這位讀者的說法對不對呢

針對這個疑問,我首先去生產上找了一個千萬級別的表使用  EXPLAIN 來查詢了一下執行計劃


EXPLAIN SELECT COUNT(*) FROM SomeTable

結果如下

我說 SELECT COUNT(*) 會造成全表掃描,面試官讓我回去等通知

如圖所示: 發現確實此條語句在此例中用到的並不是主鍵索引,而是輔助索引,實際上在此例中我試驗了,不管是 COUNT(1),還是 COUNT(*),MySQL 都會用成本最小的輔助索引查詢方式來計數,也就是使用 COUNT(*) 由於 MySQL 的優化已經保證了它的查詢性能是最好的!隨帶提一句,COUNT(*)是 SQL92 定義的標準統計行數的語法,並且效率高,所以請直接使用COUNT(*)查詢表的行數!

所以這位讀者的說法確實是對的。但有個前提,在 MySQL 5.6 之後的版本中才有這種優化。

那麼這個成本最小該怎麼定義呢,有時候在 WHERE 中指定了多個條件,為啥最終 MySQL 執行的時候卻選擇了另一個索引,甚至不選索引?

本文將會給你答案,本文將會從以下兩方面來分析

  • SQL 選用索引的執行成本如何計算
  • 實例說明

SQL 選用索引的執行成本如何計算

就如前文所述,在有多個索引的情況下, 在查詢數據前,MySQL 會選擇成本最小原則來選擇使用對應的索引,這裡的成本主要包含兩個方面。

  • IO 成本: 即從磁碟把數據載入到記憶體的成本,預設情況下,讀取數據頁的 IO 成本是 1,MySQL 是以頁的形式讀取數據的,即當用到某個數據時,並不會只讀取這個數據,而會把這個數據相鄰的數據也一起讀到記憶體中,這就是有名的程式局部性原理,所以 MySQL 每次會讀取一整頁,一頁的成本就是 1。所以 IO 的成本主要和頁的大小有關
  • CPU 成本:將數據讀入記憶體後,還要檢測數據是否滿足條件和排序等 CPU 操作的成本,顯然它與行數有關,預設情況下,檢測記錄的成本是 0.2。

實例說明

為了根據以上兩個成本來算出使用索引的最終成本,我們先準備一個表(以下操作基於 MySQL 5.7.18)


CREATE TABLE person (
  id bigint(20) NOT NULL AUTO_INCREMENT,
  name varchar(255) NOT NULL,
  score int(11) NOT NULL,
  create_time timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
  PRIMARY KEY (id),
  KEY name_score (name(191),score),
  KEY create_time (create_time)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

這個表除了主鍵索引之外,還有另外兩個索引, name_score 及 create_time。然後我們在此表中插入 10 w 行數據,只要寫一個存儲過程調用即可,如下:


CREATE PROCEDURE insert_person()
begin
declare c_id integer default 1;
    while c_id<=100000 do
insert into person values(c_id, concat('name',c_id), c_id+100, date_sub(NOW(), interval c_id second));
set c_id=c_id+1;
end while;
end

插入之後我們現在使用 EXPLAIN 來計算下統計總行數到底使用的是哪個索引


EXPLAIN SELECT COUNT(*) FROM person
我說 SELECT COUNT(*) 會造成全表掃描,面試官讓我回去等通知

從結果上看它選擇了 create_time 輔助索引,顯然 MySQL 認為使用此索引進行查詢成本最小,這也是符合我們的預期,使用輔助索引來查詢確實是性能最高的!

我們再來看以下 SQL 會使用哪個索引


SELECT * FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'

我說 SELECT COUNT(*) 會造成全表掃描,面試官讓我回去等通知

用了全表掃描!理論上應該用 name_score 或者 create_time 索引才對,從 WHERE 的查詢條件來看確實都能命中索引,那是否是使用 SELECT * 造成的回表代價太大所致呢,我們改成覆蓋索引的形式試一下


SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18'

結果 MySQL 依然選擇了全表掃描!這就比較有意思了,理論上採用了覆蓋索引的方式進行查找性能肯定是比全表掃描更好的,為啥 MySQL 選擇了全表掃描呢,既然它認為全表掃描比使用覆蓋索引的形式性能更好,那我們分別用這兩者執行來比較下查詢時間吧


-- 全表掃描執行時間: 4.0 ms
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'

-- 使用覆蓋索引執行時間: 2.0 ms
SELECT create_time FROM person force index(create_time) WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18' 

從實際執行的效果看使用覆蓋索引查詢比使用全表掃描執行的時間快了一倍!說明 MySQL 在查詢前做的成本估算不准!我們先來看看 MySQL 做全表掃描的成本有多少。

前面我們說了成本主要 IO 成本和 CPU 成本有關,對於全表掃描來說也就是分別和聚簇索引占用的頁面數和表中的記錄數。執行以下命令


SHOW TABLE STATUS LIKE 'person'
我說 SELECT COUNT(*) 會造成全表掃描,面試官讓我回去等通知

可以發現

  1. 行數是 100264,我們不是插入了 10 w 行的數據了嗎,怎麼算出的數據反而多了,其實這裡的計算是估算,也有可能這裡的行數統計出來比 10 w 少了,估算方式有興趣大家去網上查找,這裡不是本文重點,就不展開了。得知行數,那我們知道 CPU 成本是 100264 * 0.2 = 20052.8。

  2. 數據長度是 5783552,InnoDB 每個頁面的大小是 16 KB,可以算出頁面數量是 353。

也就是說全表掃描的成本是 20052.8 + 353 =  20406。

這個結果對不對呢,我們可以用一個工具驗證一下。在 MySQL 5.6 及之後的版本中,我們可以用 optimizer trace 功能來查看優化器生成計劃的整個過程 ,它列出了選擇每個索引的執行計劃成本以及最終的選擇結果,我們可以依賴這些信息來進一步優化我們的 SQL。

optimizer_trace 功能使用如下



SET optimizer_trace="enabled=on";
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18';
SELECT * FROM information_schema.OPTIMIZER_TRACE;
SET optimizer_trace="enabled=off";

執行之後我們主要觀察使用 name_score,create_time 索引及全表掃描的成本。

先來看下使用 name_score 索引執行的的預估執行成本:


{
"index": "name_score",
"ranges": [
"name84059 <= name"
    ],
"index_dives_for_eq_ranges": true,
"rows": 25372,
"cost": 30447
}

可以看到執行成本為 30447,高於我們之前算出來的全表掃描成本:20406。所以沒選擇此索引執行

註意:這裡的 30447 是查詢二級索引的 IO 成本和 CPU 成本之和,再加上回表查詢聚簇索引的 IO 成本和 CPU 成本之和。

再來看下使用 create_time 索引執行的的預估執行成本:


{
    "index": "create_time",
    "ranges": [
      "0x5ec8c516 < create_time"
    ],
    "index_dives_for_eq_ranges": true,
    "rows": 50132,
    "cost": 60159,
    "cause": "cost"
}

可以看到成本是 60159,遠大於全表掃描成本 20406,自然也沒選擇此索引。

再來看計算出的全表掃描成本:



{
    "considered_execution_plans": [
      {
        "plan_prefix": [
        ],
        "table": "`person`",
        "best_access_path": {
          "considered_access_paths": [
            {
              "rows_to_scan": 100264,
              "access_type": "scan",
              "resulting_rows": 100264,
              "cost": 20406,
              "chosen": true
            }
          ]
        },
        "condition_filtering_pct": 100,
        "rows_for_plan": 100264,
        "cost_for_plan": 20406,
        "chosen": true
      }
    ]
}

 

註意看 cost:20406,與我們之前算出來的完全一樣!這個值在以上三者算出的執行成本中最小,所以最終 MySQL 選擇了用全表掃描的方式來執行此 SQL。

實際上 optimizer trace 詳細列出了覆蓋索引,回表的成本統計情況,有興趣的可以去研究一下。

從以上分析可以看出, MySQL 選擇的執行計劃未必是最佳的,原因有挺多,就比如上文說的行數統計信息不准,再比如 MySQL 認為的最優跟我們認為不一樣,我們可以認為執行時間短的是最優的,但 MySQL 認為的成本小未必意味著執行時間短。

總結

本文通過一個例子深入剖析了 MySQL 的執行計劃是如何選擇的,以及為什麼它的選擇未必是我們認為的最優的,這也提醒我們,在生產中如果有多個索引的情況,使用 WHERE 進行過濾未必會選中你認為的索引,我們可以提前使用  EXPLAIN, optimizer trace 來優化我們的查詢語句。

相關文章

SQL優化之SQL 進階技巧(上)

SQL優化之SQL 進階技巧(下)

 

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 題目一 MyISAM和InnoDB的區別,什麼時候選擇MyISAM 參考回答 InnoDB是目前MySQL主流版本(5.6、5.7、8.0)預設的存儲引擎,支持事務、外鍵、行級鎖,對於併發條件下要求數據的一致性,適用於對數據準確性要求高的場景。 MyISAM只支持表級鎖、數據排列是按照插入順序,沒有 ...
  • 本教程適用於centos7.X,redis版本為6.0.3,採用線上安裝方式,安裝好centos後首先確保網路可用 1.安裝下載工具wget yum install wget 1.1.若出現類似以下問題,則可能是預設的yum源不可用 1.2 yum 換源參考: #備份初始源配置 mv /etc/yu ...
  • 1 準備工作 1.1 修改主機名 vim /etc/hosts # 添加對應主機 192.168.28.128 mha1 192.168.28.131 mha2 192.168.28.132 mha3 1.2 關閉防火牆及修改selinux # 關閉防火牆 systemctl stop firewa ...
  • 事務 資料庫併發控制的對象 事務是資料庫的邏輯工作單位 序列中的操作要麼全做,要麼全不做 特性; 原子性 一個事務中的所有操作是不可分割的,要麼全部執行,要麼 全部不執行,這就是事務的原子性。 一致性 一個被成功執行的事務,必須能使DB從一個一致性 狀態變為另一個一致性狀態。 隔離性 是指資料庫中一 ...
  • 操作異常 修改異常、插入異常、刪除異常 數據依賴 數據間的聯繫 函數依賴FD 屬性撿的聯繫,最基本的數據依賴 若確定X,則可以唯一的確定Y,則稱Y依賴於X記X->Y 若X->Y,且Y是X的子集則稱為平凡的函數依賴:平凡的FD 若X->Y且對於任何並且對於X的任何一 個真子集X′,都有X′ Y,則稱Y ...
  • 前提:建立了一個employee表,同時建立了一個組合索引lastName,gender 。 1.最常說的like匹配 例1 explain select * from employee where lastName like '%lucy'; 例2 explain select * from em ...
  • 一、什麼是Kafka? 數據工程中最具挑戰性的部分之一是如何從不同點收集和傳輸大量數據到分散式系統進行處理和分析。需要通過消息隊列正確地分離大量數據,因為如果一部分數據無法傳送,則可以在系統恢復時傳輸和分析其他數據。有兩種消息排隊,對於上述目的,它們都是可靠的和非同步的。點對點(Point to po ...
  • 一、數據安全性 1.用戶表示和鑒別 2.存取控制 3.定義視圖 4.審計 5.數據加密 二、伺服器級安全: 登入名(windows賬號登入、賬號密碼登入) 預設登入賬號:1.BUILTIN\Administrators 2.sa(管理員賬號,預設禁用,需啟用) 創建SQLsever登入賬號 crea ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...