一次快速改寫 SQL Server 高效查詢的範例

来源:https://www.cnblogs.com/KingJaja/archive/2018/05/17/9048779.html
-Advertisement-
Play Games

最近線上系統突然出現匯出資料超過 10 筆時,查詢逾時的狀況,在仔細查找之後。 發現了問題原因,透過應用端與數據端兩邊同時調整,將查詢的效率提昇了約數百倍以上 首先,原本應用端的商務邏輯為每一分頁筆數固定為10筆,所以使用者最多可以匯出 10 筆資料 而且原本的商務邏輯是寫成這樣的 這段語法在 SQ ...


最近線上系統突然出現匯出資料超過 10 筆時,查詢逾時的狀況,在仔細查找之後。

發現了問題原因,透過應用端與數據端兩邊同時調整,將查詢的效率提昇了約數百倍以上

首先,原本應用端的商務邏輯為每一分頁筆數固定為10筆,所以使用者最多可以匯出 10 筆資料

而且原本的商務邏輯是寫成這樣的

            if (condition.LCKeys != null && condition.LCKeys.Count > 0)
            {
                sql += "AND (LTRIM(RTRIM(STR(T2.[LawNo],20,3)))+LTRIM(RTRIM(STR([LCNo],20,6)))) IN @LCKeys "; //問題點 (IN參數與欄位用了函數做處理)
                dynamicParams.Add("@LCKeys", condition.LCKeys);
            }

  

這段語法在 SQL Server 執行時,會轉換成以下的範例語法

(這裡 A 表 與 B表 為 1:N 關聯 )

SELECT LawNo,LCNo

FROM A INNER JOIN B

WHERE 1=1 AND LTRIM(RTRIM(STR(LawNo+LCNo))) IN (‘A1’,’A2’….’A10’)

在IN條件少的情況下,即使效率不好,還是可以進行資料匯出的

這次的問題是因為應用商務邏輯修改導致,從原本使用者最多只能匯出 10 筆資料

改為最多能匯出500筆資料.

從上述的範例可知 WHERE 條件式的 IN 參數就達 500 個

此外條件式欄位也因用了函數而走 Index Scan

在多個參數下,搜索時間自然拉長

來看看修改前的樣子

imageimage

在上圖中測試語句只放了10個 IN 條件參數,可以見到執行效率整體不是挺好的

 

接下來看看我們如何做應用與數據端的調整

首先將應用端原本的查詢參數,改為 Table Valued Parameter 形式

並且將原本的 IN 查找語法,修改為與Table Valued Parameter 做  INNER JOIN

  var dynamicParams = new DynamicParameters();
            var conditionSection = "";
            DataTable dt = new DataTable();
            dt.Columns.Add("LawNo");
            dt.Columns.Add("LCNo");

            for (int index = 0; index < condition.LCNos.Count; index++)
            {
                DataRow row = dt.NewRow();
                row["LawNo"] = condition.LawNos[index];
                row["LCNo"] = condition.LCNos[index];
                dt.Rows.Add(row);
            }
            if (dt.Rows.Count > 0)
            {
               conditionSection = " INNER JOIN @LawsTempx X ON X.LawNo = T2.LawNo AND X.LCNo = T2.LCNo ";  //加上額外的 INNER JOIN 條件
               dynamicParams.Add("LawsTempx", dt.AsTableValuedParameter("LawsTemp"));  //將DataTable轉換成TVP傳入數據庫
            }

  

接下來在數據端需要建立一個對應的自訂 Table Type

image

最後來看看修改後的結果

image

image

可以看到整個修改完後,Logical read 數下降了快4萬之多,執行計畫也移掉了 Parallelism 執行

是不是感覺很簡單呢?這個用法不只能用在查找語句的改寫,也可以試著用在大量 Insert 緩慢的情境上 

各位小夥伴,如果應用端突然出現這種情況的話,可以考慮看看與開發溝通,改用 TVP 進行改寫喲 Smile

謝謝大家

補充: 表值參數 (TVP) 的限制
https://docs.microsoft.com/zh-cn/sql/relational-databases/tables/use-table-valued-parameters-database-engine?view=sql-server-2017#Restrictions

有下麵的限制:

 

  • SQL Server 不維護表值參數列的統計信息。

  • 表值參數必須作為輸入 READONLY 參數傳遞到 Transact-SQL 常式。 不能在常式體中對錶值參數執行諸如 UPDATE、DELETE 或 INSERT 這樣的 DML 操作。

  • 不能將表值參數用作 SELECT INTO 或 INSERT EXEC 語句的目標。 表值參數可以在 SELECT INTO 的 FROM 子句中,也可以在 INSERT EXEC 字元串或存儲過程中。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一)安裝Centos 7系統 介紹:VMware Workstation是一個虛擬PC的軟體,利用VMware工作站,可以在現有的操作系統上虛擬出一個或多個環境。相當於模擬出多台新的PC,可以讓你同時運行多個windows系統,Linux系統,DOS系統。 安裝:百度上有破解版的,自行下載,要的私聊 ...
  • 去年購入一臺華碩FL8000U,性能很是不錯,但是硬體只能相容win10,不支持win7(linux倒是可以,但是始終用不順手),win10裡面雜七雜八的確實很多,本人重度強迫症+潔癖+極簡主義,所以經過百度並且摸索掌握了一切凈化win10的技巧。主要分為關閉update,關閉defencer,關閉 ...
  • 這裡介紹的是linux比較高級的東西,如:用戶管理、用戶組管理、文件管理等。 ...
  • 問題: 由於工作,需要,不斷得進行掛在硬碟重裝系統,NFS 系統給了我一個很好的解決方案。於是決定寫一篇博客,防止以後再次使用的時候,能夠很快得重新建立NFS 文件系統。 調研: NFS(Network File System)即網路文件系統,是FreeBSD支持的文件系統中的一種,它允許網路中的計 ...
  • 1. 前言 因工作上項目的需要,筆者需要做驅動相關的開發,之前並沒有接觸過相關的知識,折騰一段時間下來,功能如需實現了,也積累了一些經驗和看法,所以在此做番總結。 對於驅動開發的開髮指引,微軟官方文檔網站已經提供了很詳細的教程文檔,並且在Github上提供了一系列典型的常式源碼用於開發人員參考。開發 ...
  • "Linux內核同步機制之completion" 內核編程中常見的一種模式是,在當前線程之外初始化某個活動,然後等待該活動的結束。這個活動可能是,創建一個新的內核線程或者新的用戶空間進程、對一個已有進程的某個請求,或者某種類型的硬體動作,等等。在這種情況下,我們可以使用信號量來同步這兩個任務。然而, ...
  • 1 * 2 BEEPER1.C -- Timer Demo Program No.1 3 (c) Charles Petzold, 1998 4 */ 5 6 #include <Windows.h> 7 8 #define ID_TIMER 1 9 10 LRESULT CALLBACK WndP ...
  • 開始不設置主鍵 表的設計如下: 如果id的位置有好幾個0的話:設置主鍵並且自動排序時,0會從1開始遞增; Insert 進去 id = 0的數據,數據會從實際的行數開始增加,和從0變化不一樣; 現在主鍵是沒有0的,如果把某個id改成0的話,0不會變!直接會進行排序; 再insert一個id=0的看看 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...