Lepus搭建企業級資料庫慢查詢分析平臺

来源:https://www.cnblogs.com/smallSevens/archive/2018/11/07/9921949.html
-Advertisement-
Play Games

前言 Lepus的慢查詢分析平臺是獨立於監控系統的模塊,該功能需要使用percona toolkit工具來採集和記錄慢查詢日誌,並且需要部署一個我們提供的shell腳本來進行數據採集。該腳本會自動開啟您資料庫的慢查詢日誌,並對慢查詢日誌進行按小時的切割,並收集慢查詢日誌的數據到監控機資料庫。隨後您通 ...


![](https://img2018.cnblogs.com/blog/109211/201811/109211-20181107130302894-1460391039.jpg) ## 前言 Lepus的慢查詢分析平臺是獨立於監控系統的模塊,該功能需要使用percona-toolkit工具來採集和記錄慢查詢日誌,並且需要部署一個我們提供的shell腳本來進行數據採集。該腳本會自動開啟您資料庫的慢查詢日誌,並對慢查詢日誌進行按小時的切割,並收集慢查詢日誌的數據到監控機資料庫。隨後您通過Lepus系統就可以分析慢查詢了。 ## 安裝 ### 安裝 percona-toolkit ``` yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-IO-Socket-SSL perl-DBI perl-DBD-MySQL ``` 下載地址:https://www.percona.com/downloads/percona-toolkit/LATEST/ ``` ## 你也可以選擇其他版本 wget https://www.percona.com/downloads/percona-toolkit/2.2.6/RPM/percona-toolkit-2.2.6-1.noarch.rpm ``` 安裝: ``` rpm -ivh percona-toolkit-2.2.6-1.noarch.rpm ``` ###開啟慢查詢分析 在 MySQL 伺服器管理裡面電擊右側的編輯按鈕,進入伺服器編輯界面,開啟慢查詢日誌。 ### 慢查詢腳本 ```shell #!/bin/bash #****************************************************************# # ScriptName:/usr/local/sbin/lepus_slowquery.sh # Create Date:2018-11-05 #***************************************************************# # configlepus database server 監控端 lepus_db_host="192.168.1.180" lepus_db_port=9002 lepus_db_user="lepus_user" lepus_db_password="password" lepus_db_database="lepus" # configmysql server 被監控端 # 通過 which mysql 命令查詢位置 mysql_client="/usr/local/mysql/bin/mysql" mysql_host="192.168.1.190" mysql_port=3306 mysql_user="root" mysql_password="root" # configslowqury # 慢查詢日誌存放地址 slowquery_dir="/data/mysql/" # 慢日誌時間1s,可以自行定義 slowquery_long_time=1 # 獲取被監控端慢日誌存放位置 slowquery_file=`$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "show variables like 'slow_query_log_file';" | grep log | awk '{print $2}'` # 通過 which pt-query-digest 命令查詢位置 pt_query_digest=`/usr/bin/pt-query-digest` # config server_id,從監控列表查找ID,必須一致,否則無法展示數據 lepus_server_id=1 # collect mysqlslowquery log into lepus database; # 收集慢日誌存儲到天兔監控資料庫 $pt_query_digest --user=$lepus_db_user --password=$lepus_db_password --port=$lepus_db_port --charset=utf8 --review h=$lepus_db_host,D=$lepus_db_database,t=mysql_slow_query_review --history h=$lepus_db_host,D=$lepus_db_database,t=mysql_slow_query_review_history --no-report --limit=100% --filter="\$event->{add_column} = length(\$event->{arg}) and\$event->{serverid}=$lepus_server_id " $slowquery_file 2> /dev/null # set a new slowquery log; tmp_log=`$mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "select concat('$slowquery_dir','slow_',date_format(now(),'%Y%m%d%H'),'.log');" | grep log | sed -n -e '2p'` # config mysqlslowquery; $mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "set global slow_query_log=1;set global long_query_time=$slowquery_long_time;" 2> /dev/null $mysql_client -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password -e "set global slow_query_log_file = '$tmp_log';" 2> /dev/null # delete log before 7days; cd $slowquery_dir /usr/bin/find ./ -name 'slow_*' -mtime +7 | xargs rm -rf ``` 配置完成後保存,並加入計劃任務。因為慢查詢做了按小時的切割,建議計劃任務時間間隔在1小時之內。 將以上腳本加入定時任務: ```shell crontab -e ``` 寫入腳本: ```shell */5 * * * * sh /usr/local/sbin/lepus_slowquery.sh > /dev/null 2>&1 ``` 這裡,我們也可以手動執行看一下效果,登錄監控端服務,查看慢查詢相關參數: ```shell mysql> show variables like 'slow_query%'; +---------------------------+--------------------------------------+ | Variable_name | Value | +---------------------------+--------------------------------------+ | slow_query_log | OFF | | slow_query_log_file | /data/mysql/slowquery_2018110609.log | +---------------------------+--------------------------------------+ mysql> show variables like 'long_query_time'; +-----------------+-----------+ | Variable_name | Value | +-----------------+-----------+ | long_query_time | 0.500000 | +-----------------+-----------+ ``` ### 參數說明 - slow_query_log 慢查詢開啟狀態 - slow_query_log_file 慢查詢日誌存放的位置(這個目錄需要MySQL的運行帳號的可寫許可權,一般設置為MySQL的數據存放目錄) - long_query_time 查詢超過多少秒才記錄 ## 展示 配置完成後,稍等片刻,即可在慢查詢分析平臺查看該庫的慢查詢日誌。 ![](https://img2018.cnblogs.com/blog/109211/201811/109211-20181107130214467-1242136433.png) ## 小結 被監控監控機通過 percona-toolkit 工具和 shell 腳本來採集慢查詢日誌併發送到監控機,Lepus的慢查詢分析平臺對採集數據進行展示和分析。 ## 參考 http://www.lepus.cc/post/53 https://gitee.com/ruzuojun/Lepus/tree/master/client/mysql
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 什麼是Shell變數     在初等數學數學方程式中,我們會經常碰到類似於這樣的方程式: y=x+1 ,等號左右兩邊的 x 和 y 稱之為未知數。在編程裡面它們他們則代表變數名與變數值。     通過該示例,我們可以得出一個結論:簡單來說, 變數是編程中最基本 ...
  • 今天我突然發現我一點也忍受不了在UWP應用、wi10視窗、設置等界面無法使用滑鼠滑輪了。這個bug已經困擾了我差不多一年了,從買了這台筆記本就開始了。而且這個問題在中間的某一次升級系統後,也修複了,但後來卻又開始有了。雖然我為了這個問題已經在百度上百度了很多次了,但沒有一次可以幫到我。百度上的解答只 ...
  • 定義一個變數aaa 實現計算的四種方法: 簡單shell小例子:利用for迴圈列印字元小於7的單詞 ...
  • 1 #!/bin/bash 2 # 功能描述:LAMP自動安裝腳本 3 4 # 初始化 5 if [ "$(cat /etc/system-release | awk '{print $(NF-1)}' | awk -F"." '{print $1}')" -ne 7 ] 6 then 7 echo... ...
  • VPN 為了防止信息泄露,節省搭建專線私有網路成本,在互聯網上構造一個虛擬的網路 TSL/SSL 對http通信進行對稱加密,發送公鑰時採用的公鑰加密方式 ...
  • 一、命令介紹 uptime命令 uptime命令用於查看系統負載信息以及系統運行時間等。 free命令 free命令用於查看當前系統中記憶體使用量信息。 二、實例 uptime命令實例 直接運行 uptime命令 左面第一條信息14:45:40 , 是當前系統時間 第二條信息 up 24min ,指系 ...
  • Linux I/O重定向 標準輸入(stdin):文件描述符0 標準輸入(stdout):文件描述符1 標準錯誤(stderr):文件描述符2 file descriptors(FD,文件描述符 或 Process I/O channels); 進程使用文件描述符來管理打開的文件 0, 1, and ...
  • 一、應用場景介紹 本文主要是介紹Redis集群在Linux環境下的安裝講解,聯網環境安裝較為簡單,這裡只說離線的Linux環境下是如何安裝的。因為大多數時候,公司的生產環境是在內網環境下,無外網,伺服器處於離線狀態。 二、安裝環境及工具 系統:CentOS7 工具:XShell5及Xftp5 安裝包 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...