圖文結合帶你搞懂MySQL日誌之Slow Query Log(慢查詢日誌)

来源:https://www.cnblogs.com/greatsql/archive/2022/12/29/17011719.html
-Advertisement-
Play Games

GreatSQL社區原創內容未經授權不得隨意使用,轉載請聯繫小編並註明來源。 GreatSQL是MySQL的國產分支版本,使用上與MySQL一致。 作者:KAiTO 文章來源:GreatSQL社區原創 什麼是慢查詢日誌 MySQL 的慢查詢日誌,用來記錄在 MySQL 中響應時間超過閥值的語句,具體 ...


  • GreatSQL社區原創內容未經授權不得隨意使用,轉載請聯繫小編並註明來源。
  • GreatSQL是MySQL的國產分支版本,使用上與MySQL一致。
  • 作者:KAiTO
  • 文章來源:GreatSQL社區原創

什麼是慢查詢日誌

MySQL 的慢查詢日誌,用來記錄在 MySQL 中響應時間超過閥值的語句,具體指運行時間超過 long_query_time 值的SQL,則會被記錄到慢查詢日誌中。long_query_time 的預設值為10,意思是運行10秒以上(不含10秒)的語句,認為是超出了我們的最大忍耐時間值。

它的主要作用是,幫助我們發現那些執行時間特別長的SQL查詢,並且有針對性地進行優化,從而提高系統的整體效率。當我們的資料庫伺服器發生阻塞、運行變慢的時候,檢查一下慢查詢日誌,找到那些慢查詢,對解決問題很有幫助。比如一條sq|執行超過5秒鐘,我們就算慢SQL,希望能收集超過5秒的sql,結合explain進行全面分析。

預設情況下,MySQL資料庫沒有開啟慢查詢日誌,需要我們手動來設置這個參數。如果不是調優需要的話,一般不建議啟動該參數,因為開啟慢查詢日誌會或多或少帶來一定的性能影響

慢查詢日誌支持將日誌記錄寫入文件。

如何開啟慢查詢日誌

開啟slow_query_log

mysql> show variables like '%slow_query_log%';
+-----------------------------------+--------------------------------+
| Variable_name                     | Value                          |
+-----------------------------------+--------------------------------+
| slow_query_log                    | OFF                            |
| slow_query_log_always_write_time  | 10.000000                      |
| slow_query_log_file               | /var/lib/mysql/KAiTO-slow.log  |
| slow_query_log_use_global_control |                                |
+-----------------------------------+--------------------------------+
4 rows in set (0.00 sec)

# 開啟慢查詢
mysql > set global slow_query_log='ON';
Query OK, 0 rows affected (0.12 sec)

然後我們再來查看下慢查詢日誌是否開啟,以及慢查詢日誌文件的位置:

mysql> show variables like '%slow_query_log%';
+-----------------------------------+--------------------------------+
| Variable_name                     | Value                          |
+-----------------------------------+--------------------------------+
| slow_query_log                    | ON                             |
| slow_query_log_always_write_time  | 10.000000                      |
| slow_query_log_file               | /var/lib/mysql/KAiTO-slow.log  |
| slow_query_log_use_global_control |                                |
+-----------------------------------+--------------------------------+
4 rows in set (0.00 sec)

你能看到這時慢查詢分析已經開啟,同時文件保存在 /var/lib/mysql/KAiTO-slow.log 文件中。

修改long_query_time閾值

接下來我們來看下慢查詢的時間閾值設置,使用如下命令:

mysql> show variables like '%long_query_time%';
+-----------------+-----------+
| Variable_name   | Value     |
+-----------------+-----------+
| long_query_time | 10.000000 |
+-----------------+-----------+
1 row in set (0.00 sec)

意思就是超過10秒的SQL語句就會被記錄慢查詢日誌中,那要如何修改這個閾值呢?

mysql> set global long_query_time = 1;
mysql> show global variables like '%long-query_time%';

或修改 my.cnf 文件,[mysqld]下增加或修改參數long_query_timeslow_query_logslow_query_log_file後,然後重啟MySQL伺服器。

[mysqld]
slow_query_log=ON #開啟慢查詢日誌的開關
slow_query_log_file=/var/lib/mysql/my-slow.log #慢查詢日誌的目錄和文件名信息
long_query_time=3 #設置慢查詢的閾值為3秒,超出此設定值的SQL即被記錄到慢查詢日誌
log_output=FILE # 一般有兩種形式,一種是輸出到文件FILE中,一種是寫入數據表格table中,會保存到mysql庫的slow_log表中

如果不指定存儲路徑,慢查詢日誌將預設存儲到 MySQL 資料庫的數據文件夾下。如果不指定文件名,預設文件名為hostname-slow.log

補充

  • min_examined_row_limit

除了上述變數,控制慢查詢日誌的還有一個系統變數: min_examined_row_limit
這個變數的意思是,查詢掃描過的最少記錄數。這個變數和查詢執行時間,共同組成了判別一個查詢是否是慢查詢的條件。如果查詢掃描過的記錄數大於等於這個變數的值,並且查詢執行時間超過long_query_time的值,那麼,這個查詢就被記錄到慢查詢日誌中; 反之,則不被記錄到慢查詢日誌中。

mysql> show variables like 'min%';
+------------------------+-------+
| Variable_name          | Value |
+------------------------+-------+
| min_examined_row_limit | 0     |
+------------------------+-------+
1 row in set (0.01 sec)

你也可以根據需要,通過修改 my.cnf 文件,來修改min_examined_row_limit的值。


除了記錄普通的慢查詢之外,MySQL 還提供了兩個參數來讓我們記錄未使用索引的查詢,它們分別是:log-queries-not-using-indexeslog_throttle_queries_not_using_indexes

  • log-queries-not-using-indexes

系統變數log-queries-not-using-indexes作用是未使用索引的查詢也被記錄到慢查詢日誌中。

amIpmEdO1DQh2jHqBodZ4NI3NbqlGgb9Yyak2yq15lG

  • log_throttle_queries_not_using_indexes

可通過設置 log_throttle_queries_not_using_indexes 來限制每分鐘寫入慢日誌中的不走索引的SQL語句個數,該參數預設為 0,表示不開啟,也就是說不對寫入SQL語句條數進行控制。
圖片

在生產環境下,如果沒有使用索引,那麼此類 SQL 語句會頻繁地被記錄到 slow log,從而導致 slow log 文件大小不斷增加,我們可以通過調整此參數進行配置。


  • log_slow_extra

如果啟用 log_slow_extra 系統變數(從 MySQL 8.0.14 開始提供),伺服器會在日誌寫入幾個額外欄位。若要記錄bytes_receivedbytes_sent這兩個欄位則需要開啟


  • percona slow log

GreatSQL是源於Percona Server的分支版本,除了Percona Server已有的穩定可靠、高效、管理更方便等優勢外,特別是進一步提升了MGR(MySQL Group Replication)的性能及可靠性,以及眾多bug修複。這就是為什麼在使用GreatSQL查看慢查詢日誌時,會有Query_timeLock_time等信息,這些都是我們GreatSQL源於Percona Server的原因,使查詢內容更加豐富,更多的數據可以使得我們更好的排查錯誤。

通過一個簡單的案例來展示:
我們先把慢查詢日誌打開且設置時間閾值大於1秒就記錄:

#開啟慢查詢日誌
mysql> set global slow_query_log='ON';
Query OK, 0 rows affected (0.00 sec)
#時間閾值超過1秒就記錄
mysql> set global long_query_time = 1;
Query OK, 0 rows affected (0.01 sec)
mysql> show variables like '%long_query_time%';
+-----------------+----------+
| Variable_name   | Value    |
+-----------------+----------+
| long_query_time | 1.000000 |
+-----------------+----------+
1 row in set (0.00 sec)
#查看已經被記錄的慢查詢數量
mysql> SHOW GLOBAL STATUS LIKE '%Slow_queries%';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| Slow_queries  | 3     |
+---------------+-------+
1 row in set (0.01 sec)

寫一條SQL語句使得使用時間大於1秒

mysql> SELECT * FROM `student` WHERE id>1000 AND `name`='Yunxi';
+---------+-------+-------+------+---------+
| 9999715 |   707 | Yunxi |  863 |      71 |
.......省略
| 9999999 |   418 | Yunxi |  793 |     734 |
+---------+-------+-------+------+---------+
166949 rows in set (3.94 sec)
mysql> SHOW GLOBAL STATUS LIKE '%Slow_queries%';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| Slow_queries  | 4     |
+---------------+-------+
1 row in set (0.00 sec)

可以看到此條SQL已經被記錄,接下來我們去查看慢查詢日誌:

# Time: 2022-12-14T15:01:34.892085Z
# User@Host: root[root] @ localhost []  Id:     8
# Query_time: 3.985637  Lock_time: 0.000138 Rows_sent: 165346  Rows_examined: 9900000 Thread_id: 8 Errno: 0 Killed: 0 Bytes_received: 0 Bytes_sent: 4848540 Read_first: 0 Read_last: 0 Read_key: 1 Read_next: 9900000 Read_prev: 0 Read_rnd: 0 Read_rnd_next: 0 Sort_merge_passes: 0 Sort_range_count: 0 Sort_rows: 0 Sort_scan_count: 0 Created_tmp_disk_tables: 0 Created_tmp_tables: 0 Start: 2022-12-14T15:01:30.906448Z End: 2022-12-14T15:01:34.892085Z Schema: slow Rows_affected: 0
# Tmp_tables: 0  Tmp_disk_tables: 0  Tmp_table_sizes: 0
# InnoDB_trx_id: 0
# Full_scan: No  Full_join: No  Tmp_table: No  Tmp_table_on_disk: No
# Filesort: No  Filesort_on_disk: No  Merge_passes: 0
#   InnoDB_IO_r_ops: 27606  InnoDB_IO_r_bytes: 452296704  InnoDB_IO_r_wait: 0.220474
#   InnoDB_rec_lock_wait: 0.000000  InnoDB_queue_wait: 0.000000
#   InnoDB_pages_distinct: 8191
use slow;
SET timestamp=1671030090;
SELECT * FROM `student` WHERE id>100000 AND `name`='Yunxi';

可以看到慢查詢日誌記錄的非常詳細,從上述日誌中能看到幾個信息:

  • 1.這個SQL的耗時3.985637秒。
  • 2.返回結果有165346行,總共需要掃描9900000行數據。如果掃描行數很多,但返回行數很少,說明該SQL效率很低,可能索引不當。
  • 3.Read_* 等幾個指標表示這個SQL讀記錄的方式,是否順序讀、隨機讀等。
  • 4.Sort_* 等幾個指標表示該SQL是否產生了排序,及其代價。如果有且代價較大,需要想辦法優化。
  • 5.tmp 等幾個指標表示該SQL是否產生臨時表,及其代價。如果有且代價較大,需要想辦法優化。
  • 6.Full_scan/Full_join表示是否產生了全表掃描或全表JOIN,如果有且SQL耗時較大,需要想辦法優化。
  • 7.InnoDB_IO_* 等幾個指標表示InnoDB邏輯讀相關數據。
  • 8.InnoDB_rec_lock_wait 表示是否有行鎖等待。
  • 9.InnoDB_queue_wait 表示是否有排隊等待。
  • 10.InnoDB_pages_distinct 表示該SQL總共讀取了多少個InnoDB page,是個非常重要的指標。

GreatSQL可以作為MySQL或Percona Server的可選替代方案,用於線上生產環境。完全免費並相容MySQL或Percona Server。綜上,如果在生產環境中已經用上Percona Server的話,那麼也可以放心使用GreatSQL。詳情可見:(https://greatsql.cn/doc/#!&v=47_6_0)瞭解更多GreatSQL內容

查看慢查詢數目

查詢當前系統中有多少條慢查詢記錄

SHOW GLOBAL STATUS LIKE '%Slow_queries%';

慢查詢日誌分析工具

在生產環境中,如果要手工分析日誌,查找、分析SQL,顯然是個體力活,MySQL提供了日誌分析工具 mysqldumpslow ,或者是可以使用另一個工具pt-query-digest
它可以從logsprocesslist、和 tcpdump 來分析 MySQL 的狀況,logs包括 slow loggeneral logbinlog。也可以把分析結果輸出到文件中,或則把文件寫到表中。分析過程是先對查詢語句的條件進行參數化,然後對參數化以後的查詢進行分組統計,統計出各查詢的執行時間、次數、占比等,可以藉助分析結果找出問題進行優化。

關閉慢查詢日誌

作者建議除了調優需要開,正常還是不要開了

MySQL伺服器停止慢查詢日誌功能的方法:

  • 方式1
[mysqld]
slow_query_log=OFF
  • 方式2
SET GLOBAL slow_query_log=off;

刪除慢查詢日誌

mysql> show variables like '%slow_query_log%';
+-----------------------------------+--------------------------------+
| Variable_name                     | Value                          |
+-----------------------------------+--------------------------------+
| slow_query_log                    | ON                             |
| slow_query_log_always_write_time  | 10.000000                      |
| slow_query_log_file               | /var/lib/mysql/zhyno1-slow.log |
| slow_query_log_use_global_control |                                |
+-----------------------------------+--------------------------------+
4 rows in set (0.00 sec)

通過以上查詢可以看到慢查詢日誌的目錄,在該目錄下手動刪除慢查詢日誌文件即可。或使用命令 mysqladmin 來刪除,mysqladmin 命令的語法如下:mysqladmin -uroot -p flush-logs執行該命令後,命令行會提示輸入密碼。輸入正確密碼後,將執行刪除操作。新的慢查詢日誌會直接覆蓋舊的查詢日誌,不需要再手動刪除。

註意
慢查詢日誌都是使用mysqladmin flush-logs命令來刪除重建的。使用時一定要註意,一旦執行了這個命令,慢查詢日誌都只存在新的日誌文件中,如果需要舊的查詢日誌,就必須事先備份。

參考文章


Enjoy GreatSQL

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 介面組成更新 介面的組成:常量,抽象方法 Java8之前 常量:public static final 抽象方法:public abstract 預設方法(Java8) 靜態方法(Java8) 私有方法(Java9) 介面中預設方法(Java8) 介面中預設方法的格式: 格式:public defa ...
  • 普遍意義上講,生成器是一種特殊的迭代器,它可以在執行過程中暫停併在恢復執行時保留它的狀態。而協程,則可以讓一個函數在執行過程中暫停併在恢復執行時保留它的狀態,在Python3.10中,原生協程的實現手段,就是生成器,或者說的更具體一些:協程就是一種特殊的生成器,而生成器,就是協程的入門心法。 協程底 ...
  • 原文地址 https://www.cnblogs.com/younShieh/p/17010572.html ❤如果本文對你有所幫助,不妨點個關註和推薦呀,這是對筆者最大的支持~❤ 我們先考慮一般會從什麼地方複製文本、圖片到我們的軟體中。 首先說文本。我們可能會從文本文件,網頁,word,ppt,q ...
  • 修訂功能可以跟蹤文檔所有的修改,瞭解修改的過程,這對於團隊協同文檔編輯、審閱是非常有用的一個功能。將工作簿發送給他人審閱時,我們可以開啟修訂功能,共用工作簿被修改後,用戶查看文檔時可以選擇接受或者拒絕他人修改的數據信息。本文將詳細為您介紹如何接受或拒絕 Excel 中的修訂。 接受工作簿中的修訂 拒 ...
  • DWM 建表,需要看 DWS 需求。 DWS 來自維度(訪客、商品、地區、關鍵詞),為了出最終的指標 ADS 需求指標 DWT 為什麼實時數倉沒有DWT,因為它是歷史的聚集,累積結果,實時數倉中不需要 DWD 不需要加工 DWM 需要加工的數據 統計主題 需求指標【ADS】輸出方式計算來源來源層級 ...
  • 大數據 ODS&DWD&DIM-SQL分享 需求 思路一:等差數列 斷2天、3天,嵌套太多 1.1 開窗,按照 id 分組,同時按照 dt 排序,求 Rank -- linux 中空格不能用 tab 鍵 select id,dt,rank() over(partition by id order b ...
  • 摘要:今日校園攜手華為雲資料庫聯合打造穩定高效的數據底座服務,基於雲原生資料庫GaussDB(for Cassandra) 提供的超強讀寫、彈性擴展、便捷管理等能力,高效支撐業務穩定運行。 隨著信息技術的發展,移動校園APP走入萬千高校,不僅為廣大師生提供了高效便捷的校園服務,也為校園生活增添了更多 ...
  • MongoDB 的副本集類似於有自動故障修複功能的主從集群,提供了數據的冗餘和高可用,是所有生產部署的基礎。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...