SQL優化之SQL 進階技巧（上）

来源:https://www.cnblogs.com/star8521/archive/2020/05/25/12954861.html
-Advertisement-
Play Games

由於工作需要，最近做了很多 BI 取數的工作，需要用到一些比較高級的 SQL 技巧，總結了一下工作中用到的一些比較騷的進階技巧，特此記錄一下，以方便自己查閱，主要目錄如下： SQL 的書寫規範 SQL 的一些進階使用技巧 SQL 的優化方法 SQL 的書寫規範 在介紹一些技巧之前，有必要強調一下規範 ...


由於工作需要，最近做了很多 BI 取數的工作，需要用到一些比較高級的 SQL 技巧，總結了一下工作中用到的一些比較騷的進階技巧，特此記錄一下，以方便自己查閱，主要目錄如下：

  • SQL 的書寫規範
  • SQL 的一些進階使用技巧
  • SQL 的優化方法

SQL 的書寫規範

在介紹一些技巧之前，有必要強調一下規範，這一點我發現工作中經常被人忽略，其實遵循好的規範可讀性會好很多，應該遵循哪些規範呢

1、 表名要有意義，且標準 SQL 中規定表名的第一個字元應該是字母。

2、註釋，有單行註釋和多行註釋，如下

-- 單行註釋
-- 從SomeTable中查詢col_1 
SELECT col_1
  FROM SomeTable;
/*
多行註釋
從 SomeTable 中查詢 col_1 
*/
SELECT col_1
  FROM SomeTable;

多行註釋很多人不知道，這種寫法不僅可以用來添加真正的註釋，也可以用來註釋代碼，非常方便

3、縮進

就像寫 Java，Python 等編程語言一樣 ，SQL 也應該有縮進，良好的縮進對提升代碼的可讀性幫助很大，以下分別是好的縮進與壞的縮進示例

-- 好的縮進
SELECT col_1, 
    col_2, 
    col_3,
COUNT(*) 
FROM tbl_A
WHERE col_1 = 'a'
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1,
          col_2,
          col_3

-- 壞的示例

SELECT col1_1, col_2, col_3, COUNT(*)

FROM   tbl_A

WHERE  col1_1 = 'a'

AND    col1_2 = (

SELECT MAX(col_2)

FROM   tbl_B

WHERE  col_3 = 100

) GROUP BY col_1, col_2, col_3

4、空格

代碼中應該適當留有一些空格，如果一點不留，代碼都湊到一起， 邏輯單元不明確，閱讀的人也會產生額外的壓力，以下分別是是好的與壞的示例


-- 好的示例
SELECT col_1
FROM tbl_A A, tbl_B B
WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) )
AND A.col_3 = B.col_3;

-- 壞的示例

SELECT col_1

  FROM tbl_A A,tbl_B B

 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))

   AND A.col_3=B.col_3;

4、大小寫

關鍵字使用大小寫，表名列名使用小寫，如下

SELECT col_1, col_2, col_3,
COUNT(*)
FROM tbl_A
WHERE col_1 = 'a'
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1, col_2, col_3

花了這麼多時間強調規範，有必要嗎，有！好的規範讓代碼的可讀性更好，更有利於團隊合作，之後的 SQL 示例都會遵循這些規範。

SQL 的一些進階使用技巧

一、巧用 CASE WHEN 進行統計

來看看如何巧用 CASE WHEN 進行定製化統計,假設我們有如下的需求，希望根據左邊各個市的人口統計每個省的人口

SQL 進階技巧（上）

使用 CASE WHEN 如下

SELECT CASE pref_name
WHEN '長沙' THEN '湖南'
WHEN '衡陽' THEN '湖南'
WHEN '海口' THEN '海南'
WHEN '三亞' THEN '海南'
ELSE '其他' END AS district,
SUM(population) 
FROM PopTbl
GROUP BY district;

二、巧用 CASE WHEN 進行更新

現在某公司員人工資信息表如下:

SQL 進階技巧（上）

現在公司出台了一個奇葩的規定

  1. 對當前工資為 1 萬以上的員工，降薪 10%。
  2. 對當前工資低於 1 萬的員工，加薪 20%。

一些人不假思索可能寫出了以下的 SQL:

--條件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--條件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

這麼做其實是有問題的， 什麼問題，對小明來說，他的工資是 10500，執行第一個 SQL 後，工資變為 10500 * 0.9 = 9450, 緊接著又執行條件 2， 工資變為了 9450 * 1.2 = 11340，反而漲薪了！

如果用 CASE WHEN 可以解決此類問題，如下：

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

三、巧用 HAVING 子句

一般 HAVING 是與 GROUP BY 結合使用的，但其實它是可以獨立使用的， 假設有如下表，第一列 seq 叫連續編號，但其實有些編號是缺失的，怎麼知道編號是否缺失呢，

SQL 進階技巧（上）

用 HAVING 表示如下:

SELECT '存在缺失的編號' AS gap
FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

四、自連接

針對相同的表進行的連接被稱為“自連接”(self join)，這個技巧常常被人們忽視，其實是有挺多妙用的

1、刪除重覆行

SQL 進階技巧（上）

上圖中有三個橘子，需要把這些重覆的行給刪掉，用如下自連接可以解決：

DELETE FROM Products P1
WHERE id < ( SELECT MAX(P2.id) 
FROM Products P2 
WHERE P1.name = P2.name 
AND P1.price = P2.price ); 

2、排序

在 db 中，我們經常需要按分數，人數，銷售額等進行排名，有 Oracle, DB2 中可以使用 RANK 函數進行排名，不過在 MySQL 中 RANK 函數未實現，這種情況我們可以使用自連接來實現,如對以下 Products 表按價格高低進行排名

SQL 進階技巧（上）

使用自連接可以這麼寫:

-- 排序從 1 開始。如果已出現相同位次，則跳過之後的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
FROM Products P2
WHERE P2.price > P1.price) + 1 AS rank_1
FROM Products P1 
ORDER BY rank_1;

結果如下:

name       price      rank 
-----      ------     ------ 
橘子     100     1 
西瓜     80     2 
蘋果     50     3 
葡萄     50     3 
香蕉     50     3 
檸檬     30     6

五、巧用 COALESCE 函數

此函數作用返回參數中的第一個非空表達式，假設有如下商品，我們重新格式化一樣，如果 city 為 null，代表商品不在此城市發行，但我們在展示結果的時候不想展示 null，而想展示 'N/A', 可以這麼做:

SELECT
COALESCE(city, 'N/A')
FROM
    customers;
SQL 進階技巧（上）

SQL 性能優化技巧

一、參數是子查詢時，使用 EXISTS 代替 IN

如果 IN 的參數是（1，2，3）這樣的值列表時，沒啥問題，但如果參數是子查詢時，就需要註意了。比如，現在有如下兩個表：

SQL 進階技巧（上）

現在我們要查出同時存在於兩個表的員工，即田中和鈴木，則以下用 IN 和 EXISTS 返回的結果是一樣，但是用 EXISTS 的 SQL 會更快:


-- 慢
SELECT * 
FROM Class_A
WHERE id IN (SELECT id
FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

 

為啥使用 EXISTS 的 SQL 運行更快呢，有兩個原因

  1. 可以`用到索引，如果連接列 (id) 上建立了索引，那麼查詢 Class_B 時不用查實際的表，只需查索引就可以了。
  2. 如果使用 EXISTS，那麼只要查到一行數據滿足條件就會終止查詢， 不用像使用 IN 時一樣掃描全表。在這一點上 NOT EXISTS 也一樣

另外如果 IN 後面如果跟著的是子查詢，由於 SQL 會先執行 IN 後面的子查詢，會將子查詢的結果保存在一張臨時的工作表裡（內聯視圖），然後掃描整個視圖，顯然掃描整個視圖這個工作很多時候是非常耗時的，而用 EXISTS 不會生成臨時表。

當然了，如果 IN 的參數是子查詢時，也可以用連接來代替，如下：

-- 使用連接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了 「id」列上的索引，而且由於沒有子查詢，也不會生成臨時表

二、避免排序

SQL 是聲明式語言，即對用戶來說，只關心它能做什麼，不用關心它怎麼做。這樣可能會產生潛在的性能問題：排序，會產生排序的代表性運算有下麵這些

  • GROUP BY 子句
  • ORDER BY 子句
  • 聚合函數(SUM、COUNT、AVG、MAX、MIN)
  • DISTINCT
  • 集合運算符(UNION、INTERSECT、EXCEPT)
  • 視窗函數(RANK、ROW_NUMBER 等)

如果在記憶體中排序還好，但如果記憶體不夠導致需要在硬碟上排序上的話，性能就會急劇下降，所以我們需要減少不必要的排序。怎樣做可以減少排序呢。

1、 使用集合運算符的 ALL 可選項

SQL 中有 UNION，INTERSECT，EXCEPT 三個集合運算符，預設情況下，這些運算符會為了避免重覆數據而進行排序，對比一下使用 UNION 運算符加和不加 ALL 的情況:

SQL 進階技巧（上）

註意：加 ALL 是優化性能非常有效的手段，不過前提是不在乎結果是否有重覆數據。

2、使用 EXISTS 代表 DISTINCT

為了排除重覆數據， DISTINCT 也會對結果進行排序，如果需要對兩張表的連接結果進行去重，可以考慮用 EXISTS 代替 DISTINCT，這樣可以避免排序。

SQL 進階技巧（上）

如何找出有銷售記錄的商品，使用如下 DISTINCT 可以：

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不過更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS
        (SELECT *
FROM SalesHistory SH
WHERE I.item_no = SH.item_no);

既用到了索引，又避免了排序對性能的損耗。

三、在極值函數中使用索引（MAX/MIN）

使用 MAX/ MIN 都會對進行排序，如果參數欄位上沒加索引會導致全表掃描，如果建有索引，則只需要掃描索引即可，對比如下

-- 這樣寫需要掃描全表 
SELECT MAX(item)
FROM Items;

-- 這樣寫能用到索引 
SELECT MAX(item_no)
  FROM Items;

註意：極值函數參數推薦為索引列中並不是不需要排序，而是優化了排序前的查找速度（畢竟索引本身就是有序排列的）。

四、能寫在 WHERE 子句里的條件不要寫在 HAVING 子句里

下列 SQL 語句返回的結果是一樣的:

-- 聚合後使用 HAVING 子句過濾
SELECT sale_date, SUM(quantity)
FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';

-- 聚合前使用 WHERE 子句過濾
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;

使用第二條語句效率更高，原因主要有兩點

  1. 使用 GROUP BY 子句進行聚合時會進行排序，如果事先通過 WHERE 子句能篩選出一部分行，能減輕排序的負擔
  2. 在 WHERE 子句中可以使用索引，而 HAVING 子句是針對聚合後生成的視頻進行篩選的，但很多時候聚合後生成的視圖並沒有保留原表的索引結構

五、在 GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句一般都會進行排序，以對行進行排列和替換，不過如果指定帶有索引的列作為這兩者的參數列，由於用到了索引，可以實現高速查詢，由於索引是有序的，排序本身都會被省略掉

六、使用索引時，條件表達式的左側應該是原始欄位

假設我們在 col 列上建立了索引，則下麵這些 SQL 語句無法用到索引

SELECT *
FROM SomeTable
WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';

 

以上第一個 SQL 在索引列上進行了運算, 第二個 SQL 對索引列使用了函數，均無法用到索引，正確方式是把列單獨放在左側,如下:

SELECT *
FROM SomeTable
WHERE col_1 > 100 / 1.1;

當然如果需要對此列使用函數，則無法避免在左側運算，可以考慮使用函數索引，不過一般不推薦隨意這麼做。

七、儘量避免使用否定形式

如下的幾種否定形式不能用到索引：

  • <>
  • !=
  • NOT IN

所以以下 了SQL 語句會導致全表掃描

SELECT *
FROM SomeTable
WHERE col_1 <> 100;

可以改成以下形式

SELECT *
FROM SomeTable
WHERE col_1 > 100 or col_1 < 100;

八、進行預設的類型轉換

假設 col 是 char 類型，則推薦使用以下第二，三條 SQL 的寫法，不推薦第一條 SQL 的寫法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

雖然第一條 SQL 會預設把 10 轉成 '10'，但這種預設類型轉換不僅會增加額外的性能開銷，還會導致索引不可用，所以建議使用的時候進行類型轉換。

九、減少中間表

在 SQL 中，子查詢的結果會產生一張新表，不過如果不加限制大量使用中間表的話，會帶來兩個問題，一是展示數據需要消耗記憶體資源，二是原始表中的索引不容易用到，所以儘量減少中間表也可以提升性能。

十、靈活使用 HAVING 子句

這一點與上面第八條相呼應，對聚合結果指定篩選條件時，使用 HAVING 是基本的原則，可能一些工程師會傾向於使用下麵這樣的寫法:

SELECT *
FROM (SELECT sale_date, MAX(quantity) AS max_qty
FROM SalesHistory 
GROUP BY sale_date) TMP
WHERE max_qty >= 10;

雖然上面這樣的寫法能達到目的，但會生成 TMP 這張臨時表，所以應該使用下麵這樣的寫法:

SELECT sale_date, MAX(quantity) 
FROM SalesHistory
GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操作是同時執行的，所以比起生成中間表後再執行 HAVING 子句，效率會更高，代碼也更簡潔

10、需要對多個欄位使用 IN 謂詞時，將它們彙總到一處

一個表的多個欄位可能都使用了 IN 謂詞，如下:

SELECT id, state, city 
FROM Addresses1 A1
WHERE state IN (SELECT state
FROM Addresses2 A2
WHERE A1.id = A2.id) 
AND city IN (SELECT city
FROM Addresses2 A2 
WHERE A1.id = A2.id);

這段代碼用到了兩個子查詢，也就產生了兩個中間表，可以像下麵這樣寫

SELECT *
FROM Addresses1 A1
WHERE id || state || city
IN (SELECT id || state|| city
FROM Addresses2 A2);

這樣子查詢不用考慮關聯性，沒有中間表產生，而且只執行一次即可。

總結

本文一開始花了挺大的篇幅來講解 SQL 的規範，請大家務必重視這部分內部，良好的規範有利於團隊協作，對於代碼的閱讀也比較友好。

之後介紹了一些 SQL 的比較高級的用法，巧用這些技巧確實能達到事半功倍的效果，由於本文篇幅有限只是介紹了一部分，下篇我們會再介紹一些其他的技巧，敬請期待哦

相關文章

SQL優化之SQL 進階技巧（下）

SQL優化之SELECT COUNT(*)


 

 
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 資料庫的維護
    事務 資料庫併發控制的對象 事務是資料庫的邏輯工作單位 序列中的操作要麼全做，要麼全不做 特性; 原子性 一個事務中的所有操作是不可分割的，要麼全部執行，要麼 全部不執行，這就是事務的原子性。 一致性 一個被成功執行的事務，必須能使DB從一個一致性 狀態變為另一個一致性狀態。 隔離性 是指資料庫中一 ...
  • 資料庫規範化設計
    操作異常 修改異常、插入異常、刪除異常 數據依賴 數據間的聯繫 函數依賴FD 屬性撿的聯繫，最基本的數據依賴 若確定X，則可以唯一的確定Y，則稱Y依賴於X記X->Y 若X->Y,且Y是X的子集則稱為平凡的函數依賴：平凡的FD 若X->Y且對於任何並且對於X的任何一 個真子集X′，都有X′ Y，則稱Y ...
  • Mysql索引失效的情況
    前提：建立了一個employee表，同時建立了一個組合索引lastName,gender 。 1.最常說的like匹配 例1 explain select * from employee where lastName like '%lucy'; 例2 explain select * from em ...
  • 【趙強老師】Kafka的體系架構
    一、什麼是Kafka？ 數據工程中最具挑戰性的部分之一是如何從不同點收集和傳輸大量數據到分散式系統進行處理和分析。需要通過消息隊列正確地分離大量數據，因為如果一部分數據無法傳送，則可以在系統恢復時傳輸和分析其他數據。有兩種消息排隊，對於上述目的，它們都是可靠的和非同步的。點對點(Point to po ...
  • 數據控制DCL
    一、數據安全性 1.用戶表示和鑒別 2.存取控制 3.定義視圖 4.審計 5.數據加密 二、伺服器級安全： 登入名（windows賬號登入、賬號密碼登入） 預設登入賬號：1.BUILTIN\Administrators 2.sa(管理員賬號，預設禁用，需啟用) 創建SQLsever登入賬號 crea ...
  • SQL優化之SELECT COUNT(*)
    前言 SQL優化之SQL 進階技巧（上） SQL優化之SQL 進階技巧（下）中提到使用以下 sql 會導致慢查詢 SELECT COUNT( ) FROM SomeTable SELECT COUNT(1) FROM SomeTable 原因是會造成全表掃描，有位讀者說這種說法是有問題的，實際上針對 ...
  • 用戶畫像系統架構——從零開始搭建實時用戶畫像(二)
    ​ ​ 在《 "什麼的是用戶畫像" 》一文中，我們已經知道用戶畫像對於企業的巨大意義，當然也有著非常大實時難度。那麼在用戶畫像的系統架構中都有哪些難度和重點要考慮的問題呢？ 挑戰 大數據 隨著互聯網的崛起和智能手機的興起，以及物聯網帶來的各種可穿戴設備，我們能獲取的每一個用戶的數據量是非常巨大的，而 ...
  • SQL優化之SQL 進階技巧（下）
    上文( SQL優化之SQL 進階技巧（上） )我們簡述了 SQL 的一些進階技巧，一些朋友覺得不過癮，我們繼續來下篇，再送你 10 個技巧 一、 使用延遲查詢優化 limit [offset], [rows] 經常出現類似以下的 SQL 語句: SELECT FROM film LIMIT 1000 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類