SQL查詢優化實踐

来源:https://www.cnblogs.com/zhuoqingsen/archive/2019/11/29/sqlOptimised.html

為什麼要優化 系統的吞吐量瓶頸往往出現在資料庫的訪問速度上,即隨著應用程式的運行,資料庫的中的數據會越來越多,處理時間會相應變慢,且數據是存放在磁碟上的,讀寫速度無法和記憶體相比 如何優化 設計資料庫時:資料庫表、欄位的設計,存儲引擎 利用好MySQL自身提供的功能,如索引,語句寫法的調優 MySQL ...


為什麼要優化

  • 系統的吞吐量瓶頸往往出現在資料庫的訪問速度上,即隨著應用程式的運行,資料庫的中的數據會越來越多,處理時間會相應變慢,且數據是存放在磁碟上的,讀寫速度無法和記憶體相比

如何優化

  1. 設計資料庫時:資料庫表、欄位的設計,存儲引擎
  2. 利用好MySQL自身提供的功能,如索引,語句寫法的調優
  3. MySQL集群、分庫分表、讀寫分離

關於SQL語句的優化的方法方式,網路有很多經驗,所以本文拋開這些,設法在DAO層的優化和資料庫設計優化上建樹,併列舉兩個簡單實例

  例子1:ERP查詢優化

現狀分析:

1 缺少關聯索引
2 Mysql本身的性能所限,對多個表的關聯支持不好,目前的性能主要集中在列表查詢上面,列表查詢關聯了很多表

應對方法:
1 增加必要的索引:通過explain查看執行記錄,根據執行計劃添加索引;
2 先統計業務數據主表主鍵,獲取較小結果集,然後再利用結果集關聯查詢;
1) 先根據主表和條件查詢顯示業務數據的主鍵
2) 根據主鍵作為查詢條件,再關聯其他關聯表,查詢需要的業務欄位
3) 在主表查詢時,針對需要關聯其他表的查詢條件,需要做只有設置這個條件,才會做表關聯的設置

例如 有如下表 TT_A   TT_B    TT_C  TT_D

假設未優化前的SQL是這樣的

SELECT
    A.ID,
    ....
    B.NAME,
    .....
    C.AGE,
    ....
    D.SEX
    .....

FROM  TT_A A
LEFT JOIN TT_B B ON A.ID  = B.ITEM_ID
LEFT JOIN TT_C C ON B.ID = C.ITEM_ID
LEFT JOIN TT_D D ON C.ID = D.ITEM_ID
WHERE 1=1
AND A.XX = ?
AND A.VV = ?
.....

那麼優化後的SQL是

第一步

SELECT
    A.ID

FROM  TT_A A
WHERE 1=1
AND A.XX = ?
AND A.VV = ?

第二步

SELECT
    A.ID,
    ....
    B.NAME,
    .....
    C.AGE,
    ....
    D.SEX
    .....
FROM  ( SELECT A.ID,..... FROM  TT_A  WHERE ID IN (1,2,3..)  ) A
LEFT JOIN TT_B B ON A.ID  = B.ITEM_ID
LEFT JOIN TT_C C ON B.ID = C.ITEM_ID
LEFT JOIN TT_D D ON C.ID = D.ITEM_ID
WHERE 1=1
AND A.XX = ?
AND A.VV = ?

 小結:

這種優化適用於,列表查詢,因為一個列表查詢的條件一般都是和主表掛鉤的,所以利用這一點,建立關鍵欄位索引,同時通過查詢條件的限制大大的縮小主表的數據量。這樣關聯其他表的時候就會快的多

 

   例子2:文章搜索優化

  假設你要做個貼吧的文章搜索功能,最簡單直接的存儲結構,就是利用關係資料庫,創建這樣一個存儲文章的關係資料庫表 TT_ARTICLES:

 

  那麼,假如現在的搜索關鍵字是“目標”,我們就可以利用字元串匹配的方式來對 CONTENT 列進行匹配查詢:

select * from ARTICLES where CONTENT like '% 目標 %';

  這很容易就實現了搜索功能。但是,這樣的方式有著明顯的問題,即使用 % 來進行字元串匹配是非常低效的,因此這樣的查詢需要遍歷整個表(全表掃描)。幾篇、幾十篇文章的時 候,還不是什麼問題,但是如果有幾十萬、幾百萬的文章,這種方式是完全不可行的。且不說單獨的關係資料庫表就不能容納那麼大的數據了,就是能夠容納,要掃描一遍,這裡的時間代價是難以想象的

  於是,我們就要引入“倒排索引”的技術了。在前面所述的場景下, 我們可以把這個概念拆分為兩個部分來解釋: 好,那上面的 ARTICLES 表依然存在,但現在需要添加一個關鍵字表 KEYWORDS,並且,KEYWORD 列需要添加索引,因此這條關鍵字的記錄可以被迅速找到:

 

 

 當然,我們還需要一個關聯關係表把 KEYWORDS 表和 ARTICLES 表結合起來, KEYWORD_ID 和 ARTICLE_ID 作為聯合主鍵 

 

 

你看,這其實是一個多對多的關係,即同一個關鍵字可以出現在多篇文章中,而一篇文章可 以包含多個不同的關鍵字。這樣,我們可以先根據被索引了的關鍵字,從 KEYWARDS 表 中找到相應的 KEYWORD_ID,進而根據它在上面的關聯關係表找到 ARTICLE_ID,再根據 它去 ARTICLES 表中找到對應的文章。

 

小結:

  這看起來是三次查找,但是因為每次都走索引,就免去了全表掃描,在數據量較小的時候速 度並不慢,並且,在使用 SQL 實現的時候,這個過程完全可以放到一個 SQL 語句中。在數 據量較小的時候,上面的方法已經足夠好用了。 這樣解決了全表掃描和字元串 % 匹配查詢造成的性能問題。

 

總結:

  在技術面試的時候,如果你能舉出實際的例子,或者是直接說自己開發過程的問題和收穫會讓面試分會加很多,回答邏輯性也要強一點,不要東一點西一點,容易把自己都繞暈的。例如,問為怎麼優化SQL你不要一上來就直接回答加索引,你可以這樣回答:

  面試官您好,首先我們的項目DB數據量遇到了瓶頸,導致列表查詢非常緩慢,給用戶的體驗不好,為瞭解決這個問題,有很多種方法,例如最基本的資料庫表設計,基本的SQL優化,MYSQL的集群,讀寫分離,分庫分表,架構上增加緩存層等,他們的優缺點……,綜合這些然後再結合我們項目特點,最後我們在技術選型的時候選了誰。

  如果你這樣有條不紊,有理有據的回答了問題而且還說出這麼多問題外的知識點,面試官會覺得你不只是一個會寫代碼的人,而是你邏輯清晰,你對技術選型,有自己的理解和思考

 


您的分享是我們最大的動力!

更多相關文章
  • 配置虛擬用戶訪問 首先至少要關閉userlist 改完配置文件是要重啟服務來使它生效 其實在剛裝好vsftp的時候的配置文件不用修改的情況下配置虛擬用戶訪問控制是最好的 local_root選項不影響 本地用戶登錄的目錄和虛擬用戶登錄的目錄是不產生影響的 為防止有影響,把chroot也註釋了 配置虛 ...
  • 1、nginx 簡介(1)介紹 nginx 的應用場景和具體可以做什麼事情 (2)介紹什麼是反向代理 (3)介紹什麼是負載均衡 (4)介紹什麼是動靜分離 2、nginx 安裝(1)介紹 nginx 在 linux 系統中如何進行安裝 3、nginx 常用的命令和配置文件(1)介紹 nginx 啟動、 ...
  • 工作中用到的命令以及問題彙總 2019-11-29 查看系統運行時間,這個問題是因為我們在阿裡雲上有個機器,在某一天發現這台機器上有的服務莫名奇妙的停了,然後排查時懷疑機器被重啟過用如下如下命令查看了系統運行時間,發現果不其然機器就是被重啟過: 1 cat /proc/uptime| awk -F. ...
  • 目的:在VirtualBox中最小化安裝Centos7,記錄下最小化安裝後的相關操作以及安裝的軟體,方便以後再次安裝。 網路配置 設置了兩張網卡, 網卡1 的連接方式 網路地址轉換(NAT) 用於訪問外網, 網卡2 的連接方式 僅主機(Host Only)網路 用於和宿主主機通信。 一般網路配置路徑 ...
  • 典型神經網路模型:(圖片來源:https://github.com/madalinabuzau/tensorflow-eager-tutorials) 保持更新,更多內容請關註 cnblogs.com/xuyaowen; ...
  • 1. Apache Hadoop 1.1 Hadoop介紹 Hadoop是Apache旗下的一個用java語言實現的開源軟體框架, 是一個開發和運行處理大規模數據的軟體平臺. 允許使用簡單的編程模型在大量電腦集群上對大型數據集進行分散式處理. Hadoop不會跟某種具體的行業或者某個具體的業務掛鉤 ...
  • "1. 對日期的操作" "2. 對數字的操作" 1、對日期的操作 2、對數字的操作 ...
  • 下載並解壓MySQL 下載mysql-8.0.17-win64 \https://dev.mysql.com/downloads/mysql/8.0.html // 這裡提供的是8.0以上x64版本 解壓到任意位置,譬如: C:\mysql-8.0.17-winx64 (註意!! 此處的路徑一定要弄 ...
一周排行
  • 比如要拆分“呵呵呵90909086676喝喝999”,下麵當type=0返回的是中文字元串“呵呵呵,喝喝”,type=1返回的是數字字元串“90909086676,999”, private string GetStrings(string str,int type=0) { IList<strin ...
  • Swagger一個優秀的Api介面文檔生成工具。Swagger可以可以動態生成Api介面文檔,有效的降低前後端人員關於Api介面的溝通成本,促進項目高效開發。 1、使用NuGet安裝最新的包:Swashbuckle.AspNetCore。 2、編輯項目文件(NetCoreTemplate.Web.c ...
  • 2020 年 7 月 30 日, 由.NET基金會和微軟 將舉辦一個線上和為期一天的活動,包括 微軟 .NET 團隊的演講者以及社區的演講者。本次線上大會 專註.NET框架構建微服務,演講者分享構建和部署雲原生應用程式的最佳實踐、模式、提示和技巧。有關更多信息和隨時瞭解情況:https://focu... ...
  • #abp框架Excel導出——基於vue #1.技術棧 ##1.1 前端採用vue,官方提供 UI套件用的是iview ##1.2 後臺是abp——aspnetboilerplate 即abp v1,https://github.com/aspnetboilerplate/aspnetboilerp ...
  • 前言 本文的文字及圖片來源於網路,僅供學習、交流使用,不具有任何商業用途,版權歸原作者所有,如有問題請及時聯繫我們以作處理。 作者:碧茂大數據 PS:如有需要Python學習資料的小伙伴可以加下方的群去找免費管理員領取 input()輸入 Python提供了 input() 內置函數從標準輸入讀入一 ...
  • 從12年到20年,python以肉眼可見的趨勢超過了java,成為了當今It界人人皆知的編程語言。 python為什麼這麼火? 網路編程語言搜索指數 適合初學者 Python具有語法簡單、語句清晰的特點,這就讓初學者在學習階段可以把精力集中在編程對象和思維方法上。 大佬都在用 Google,YouT ...
  • 在社會上存在一種普遍的對培訓機構的學生一種歧視的現象,具體表現在,比如:當你去公司面試的時候,一旦你說了你是培訓機構出來的,那麼基本上你就涼了,那麼你瞞著不說,然後又通過了面試成功入職,但是以後一旦在公司被髮現有培訓經歷,可能會面臨被降薪,甚至被辭退,培訓機構出來的學生,在用人單位眼裡就是能力低下的 ...
  • from typing import List# 這道題看了大佬寫的代碼,經過自己的理解寫出來了。# 從最外圍的四周找有沒有為O的,如果有的話就進入深搜函數,然後深搜遍歷# 判斷上下左右的位置是否為Oclass Solution: def solve(self, board: List[List[s ...
  • import requests; import re; import os; # 1.請求網頁 header = { "user-agent":'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_5) AppleWebKit/537.36 (KHTML, li ...
  • import requests; import re; import os; import parsel; 1.請求網頁 header = { "user-agent":'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_5) AppleWebKit/537. ...