程式猿是如何解決SQLServer占CPU100%的

来源:http://www.cnblogs.com/lj820403/archive/2017/08/02/7274318.html
-Advertisement-
Play Games

文章目錄 遇到的問題 使用SQLServer Profiler監控資料庫 SQL1:查找最新的30條告警事件 SQL2:獲取當前的總報警記錄數 有哪些SQL語句會導致CPU過高? 查看SQL的查詢計劃 選擇top記錄時,儘量為order子句的欄位建立索引 查看SQL語句CPU高的語句 通過建立相關索 ...


文章目錄

遇到的問題

有同事反應伺服器CPU過高,一看截圖基本都是100%了,my god,這可是大問題,趕緊先看看。

讓同事查看系統進程,發現是SQLServer的CPU占用比較高。首先想到的是不是報表生成的時候高,因為這塊之前出現過問題,關掉服務程式,還是高。難道是客戶端程式引發的?但是這麼多的客戶端連接,難不成每個都叫人關閉,很簡單,把網路斷開即可。網路斷開之後,CPU立馬下降。那麼問題到底在哪裡呢,是時候祭出我們的利器了——SQLServer Profiler。

使用SQLServer Profiler監控資料庫

讓同事使用SQLProfiler監控了大概20分鐘左右,然後保存為跟蹤文件*.rtc。

我們來看看到底是哪句SQL有問題:

SQL1:查找最新的30條告警事件

select top 30  a.orderno,a.AgentBm,a.AlarmTime,a.RemoveTime,c.Name as AddrName,b.Name as MgrObjName,a.Ch,a.Value,a.Content,a.Level
    ,ag.Name as AgentServerName,a.EventBm,a.MgrObjId,a.Id,a.Cfmoper,a.Cfm,a.Cfmtime,a.State,a.IgnoreStartTime,a.IgnoreEndTime
    ,a.OpUserId,d.Name as MgrObjTypeName,l.UserName as userName,f.Name as AddrName2 
from eventlog as a left join mgrobj as b on a.MgrObjId=b.Id and a.AgentBm=b.AgentBm 
    left join addrnode as c on b.AddrId=c.Id left join mgrobjtype as d on b.MgrObjTypeId=d.Id 
    left join eventdir as e on a.EventBm=e.Bm left join agentserver as ag on a.AgentBm=ag.AgentBm 
    left join loginUser as l on a.cfmoper=l.loginGuid left join addrnode as f on ag.AddrId=f.Id 
where ((MgrObjId in (
    select Id from MgrObj 
    where AddrId in ('','02100000','02113000','02113001','02113002','02113003','02113004'
        ,'02113005','02113006','02113007','02113008','02113009','02113010','02113011','02113012'
        ,'02113013','02113014','02113015','02113016','02113017','02113018','02113019','02113020'
        ,'02113021','02113022','02113023','02113024','02113025','02113026'))) 
    or (mgrobjid in ('00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000'
        ,'00000000-0000-0000-0000-000000000000','11111111-1111-1111-1111-111111111111'
        ,'11111111-1111-1111-1111-111111111111'))
    ) 
order by alarmtime DESC

SQL2:獲取當前的總報警記錄數

select count(*)  from eventlog as a left join mgrobj as b on a.MgrObjId=b.Id and a.AgentBm=b.AgentBm 
    left join addrnode as c on b.AddrId=c.Id left join mgrobjtype as d on b.MgrObjTypeId=d.Id 
    left join eventdir as e on a.EventBm=e.Bm 
where MgrObjId in (
    select Id from MgrObj where AddrId in 
        ('','02100000','02100001','02100002','02100003','02100004','02100005','02100006','02100007'
        ,'02100008','02100009','02100010','02100011','02100012','02100013','02100014','02100015'
        ,'02100016','02100017','02100018','02100019','02101000','02101001','02101002','02101003'
        ,'02101004','02101005','02101006','02101007','02101008','02101009','02101010','02101011','02101012'
        ,'02101013','02101014','02101015','02101016','02101017','02101018','02101019','02101020','02101021'
        ,'02101022','02101023','02101024','02101025','022000','022001','022101','022102','0755','0755002')
    ) 
    and mgrobjid not in (
        '00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000','00000000-0000-0000-0000-000000000000'
        ,'11111111-1111-1111-1111-111111111111','11111111-1111-1111-1111-111111111111')

這是典型的獲取數據並分頁的數據,一條獲取最新分頁記錄總數,一條獲取分頁記錄,正是獲取最新事件這裡導致的CPU過高。這裡的業務大概是每個客戶端,每3秒執行一次資料庫查找,以便顯示最新的告警事件。好了,元凶找到了,怎麼解決?

有哪些SQL語句會導致CPU過高?

上網查看了下文章,得出以下結論:

1.編譯和重編譯

編譯是 Sql Server 為指令生成執行計劃的過程。Sql Server 要分析指令要做的事情,分析它所要訪問的表格結構,也就是生成執行計劃的過程。這個過程主要是在做各種計算,所以CPU 使用比較集中的地方。

執行計劃生成後會被緩存在 記憶體中,以便重用。但是不是所有的都可以 被重用。在很多時候,由於數據量發生了變化,或者數據結構發生了變化,同樣一句話執行,就要重編譯。

2.排序(sort) 和 聚合計算(aggregation)

在查詢的時候,經常會做 order by、distinct 這樣的操作,也會做 avg、sum、max、min 這樣的聚合計算,在數據已經被載入到記憶體後,就要使用CPU把這些計算做完。所以這些操作的語句CPU 使用量會多一些。

3.表格連接(Join)操作

當語句需要兩張表做連接的時候,SQLServer 常常會選擇 Nested Loop 或 Hash 演算法。演算法的完成要運行 CPU,所以 join 有時候也會帶來 CPU 使用比較集中的地方。

4.Count(*) 語句執行的過於頻繁

特別是對大表 Count() ,因為 Count() 後面如果沒有條件,或者條件用不上索引,都會引起 全表掃描的,也會引起 CPU 的大量運算

大致的原因,我們都知道了,但是具體到我們上述的兩個SQL,好像都有上述提到的這些問題,那麼到底哪個才是最大的元凶,我們能夠怎麼優化?

查看SQL的查詢計劃

SQLServer的查詢計劃很清楚的告訴了我們到底在哪一步消耗了最大的資源。我們先來看看獲取top30的記錄:

排序竟然占了94%的資源。原來是它!同事馬上想到,用orderno排序會不會快點。先把上述語句在SQLServer中執行一遍,清掉緩存之後,大概是2~3秒,然後排序欄位改為orderno,1秒都不到,果然有用。但是orderno的順序跟alarmTime的順序是不完全一致的,orderno的排序無法替代alarmTime排序,那麼怎麼辦?我想,因為選擇的是top,那麼因為orderno是聚集索引,那麼選擇前30條記錄,可以立即返回,根本無需遍歷整個結果,那麼如果alarmTime是個索引欄位,是否可以加快排序?

選擇top記錄時,儘量為order子句的欄位建立索引

先建立索引:

IF NOT EXISTS(SELECT * FROM sysindexes WHERE id=OBJECT_ID('eventlog') AND name='IX_eventlog_alarmTime')
    CREATE NONCLUSTERED INDEX IX_eventlog_alarmTime ON dbo.eventlog(AlarmTime)

在查看執行計劃:

看到沒有,剛纔查詢耗時的Sort已經消失不見了,那麼怎麼驗證它能夠有效的降低我們的CPU呢,難道要到現場部署,當然不是。

查看SQL語句CPU高的語句

SELECT TOP 10 TEXT AS 'SQL Statement'
    ,last_execution_time AS 'Last Execution Time'
    ,(total_logical_reads + total_physical_reads + total_logical_writes) / execution_count AS [Average IO]
    ,(total_worker_time / execution_count) / 1000000.0 AS [Average CPU Time (sec)]
    ,(total_elapsed_time / execution_count) / 1000000.0 AS [Average Elapsed Time (sec)]
    ,execution_count AS "Execution Count",qs.total_physical_reads,qs.total_logical_writes
    ,qp.query_plan AS "Query Plan"
FROM sys.dm_exec_query_stats qs
CROSS APPLY sys.dm_exec_sql_text(qs.plan_handle) st
CROSS APPLY sys.dm_exec_query_plan(qs.plan_handle) qp
ORDER BY total_elapsed_time / execution_count DESC

我們把建索引前後CPU做個對比:

已經明顯減低了。

通過建立相關索引來減少表掃描

我們再來看看count(*)這句怎麼優化,因為上面的這句跟count這句差別就在於order by的排序。老規矩,用查詢計劃看看。

用語句select count(0) from eventlog一看,該表已經有20多w的記錄,每次查詢30條數據,竟然要遍歷這個20多w的表兩次,能不耗CPU嗎。我們看看是否能夠利用相關的條件來減少表掃描。很明顯,我們可以為MgrObjId建立索引:

CREATE NONCLUSTERED INDEX IX_eventlog_moid ON dbo.eventlog(MgrObjId)

但是無論我怎麼試,都是沒有利用到索引,難道IN子句和NOT IN子句是沒法利用索引一定會引起表掃描。於是上網查資料,找到樺仔的文章,這裡面有解答:

SQLSERVER對篩選條件(search argument/SARG)的寫法有一定的建議

對於不使用SARG運算符的表達式,索引是沒有用的,SQLSERVER對它們很難使用比較優化的做法。非SARG運算符包括

NOT、<>、NOT EXISTS、NOT IN、NOT LIKE和內部函數,例如:Convert、Upper等

但是這恰恰說明瞭IN是可以建立索引的啊。百思不得其解,經過一番的咨詢之後,得到瞭解答:

不一定是利用索引就是好的,sqlserver根據你的查詢的欄位的重覆值的占比,決定是表掃描還是索引掃描

有道理,但是我查看了下,重覆值並不高,怎麼會有問題呢。

關鍵是,你select的欄位,這個地方使用索引那麼性能更差,你select欄位 id,addrid,agentbm,mgrobjtypeid,name都不在索引里。

真是一語驚醒夢中人,缺的是包含索引!!!關於包含索引的重要性我在這篇文章《我是如何在SQLServer中處理每天四億三千萬記錄的》已經提到過了,沒想到在這裡又重新栽了個跟頭。實踐,真的是太重要了!

通過建立包含索引來讓SQL語句走索引

好吧,立馬建立相關索引:

IF NOT EXISTS(SELECT * FROM sysindexes WHERE id=OBJECT_ID('eventlog') AND name='IX_eventlog_moid')
    CREATE NONCLUSTERED INDEX IX_eventlog_moid ON dbo.eventlog(MgrObjId) INCLUDE(EventBm,AgentBM)

我們再來看看查詢計劃:

看到沒有,已經沒有eventlog表的表掃描了。我們再來比較前後的CPU:

很明顯,這個count的優化,對查詢top的語句依然的生效的。目前為止,這兩個查詢用上去之後,再也沒有CPU過高的現象了。

其他優化手段

  • 通過服務端的推送,有事件告警或者解除過來才查詢資料庫。
  • 優化上述查詢語句,比如count(*)可以用count(0)替代——參考《SQL開發技巧(二)
  • 優化語句,先查詢出所有的MgrObjId,然後在做連接
  • 為管理對象、地點表等增加索引
  • 添加了索引之後,事件表的插入就會慢,能夠再怎麼優化呢?可以分區建立索引,每天不忙的時候,把新的記錄移入到建好索引的分區

當然,這些優化的手段是後續的事情了,我要做的事情基本完了。

總結

  • 伺服器CPU過高,首先查看系統進程,確定引發CPU過高的進程
  • 通過SQLServer Profiler能夠輕易監控到哪些SQL語句執行時間過長,消耗最多的CPU
  • 通過SQL語句是可以查看每條SQL語句消耗的CPU是多少
  • 導致CPU高的都是進行大量計算的語句:包括記憶體排序、表掃描、編譯計劃等。
  • 如果使用Top刷選前面幾條語句,則儘量為Order By子句建立索引,這樣可以減少對所有的刷選結果進行排序
  • 使用Count查詢記錄數時,儘量通過為where字句的相關欄位建立索引以減少表掃描。如果多個表進行join操作,則把相關的表連接欄位建立在包含索引中
  • 通過服務端通知的方式,減少SQL語句的查詢
  • 通過表分區,儘量降低因為添加索引而導致表插入較慢的影響

參考文章

    最後,感謝博客園DBA樺仔的熱心指點。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 要求:評論寶貝的時候一個訂單裡面包含多個產品,獲取對產品的評論內容哦 1. xaml界面 要求:獲取ListView中x:Name為tbContent的值(評論內容) 第一步:綁定TextBox的值使用Mode=TwoWay <TextBox x:Name="tbContent" Text="{Bi ...
  • 1.要求: 發送驗證碼按鈕,點擊後,會倒計時60s,之後才能再次點擊。不同界面的多個驗證碼按鈕共用這個倒計時時間。 2.操作步驟 1) 從登錄界面-->忘記密碼輸入手機號-->下一步-->倒計時60s 2) 返回到註冊頁面-->輸入手機號碼-->下一步-->獲取計時器倒計時到48s,然後從48s繼續 ...
  • 1.從相冊裡面選取圖片 2.從相機裡面選取圖片 3.裁剪圖片調用的公共方法CutPicture 4.使用Windows.Web.Http命名空間下的HttpClient使用post方法,上傳圖片伺服器 參考:https://social.msdn.microsoft.com/Forums/zh-CN ...
  • 一:Redis是什麼? Redis全稱:REmote DIctionary Server(Redis) 。Redis是一個由Salvatore Sanfilippo寫的key-value存儲系統,ANSI C語言編寫; 特點:開源免費、單線程、大併發、遵守BSD協議、支持網路、可基於記憶體亦可持久化、 ...
  • 摘自:《高性能Mysql》 1. 哈希索引基於哈希表實現,只有精確的匹配索引所有列的查詢才有效,對於每一行數據,存儲引擎會對所有的索引列計算一個哈希碼,並將哈希碼存儲在索引中,同時在哈希表中保存只想每個數據行指針 mysql中,只有memory引擎顯示支持哈希索引,並且支持非唯一哈希索引。也是mem ...
  • 多表查詢必然要用到多表關聯 多表關聯 分三類: A:內部連接 join 或inner join B:外部鏈接 外部連接又分為兩類 :左外連接 left join 和右外連接 right join C:交叉連接 cross join 以下 舉例說明 有兩張表 格 一張學生的 一張老師的 一張中間表的 ...
  • 介紹 Always On 可用性組活動輔助功能包括支持在輔助副本上執行備份操作。 備份操作可能會給 I/O 和 CPU 帶來很大的壓力(使用備份壓縮)。 將備份負荷轉移到已同步或正在同步的輔助副本後,您可以使用承載第一層工作負荷的主副本的伺服器實例上的資源,您可以創建主資料庫的任何類型的備份。 也可 ...
  • 1、課程名稱:MySQL 1.1、 MySQL資料庫學習準備 (1) 什麼是資料庫 資料庫,顧名思義,是存入數據的倉庫。只不過這個倉庫是在電腦存儲設備上的,而且數據是按一定格式存放的。指長期儲存在電腦內的、有組織的、可共用的數據集合。其組織方式可支持對數據的有效存取。 當人們收集了大量的數據後, ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...