mysql資料庫開發常見問題及優化

来源:http://www.cnblogs.com/cyfonly/archive/2016/06/26/5616536.html
-Advertisement-
Play Games

mysql資料庫是被廣泛應用的關係型資料庫,其體積小、支持多處理器、開源並免費的特性使其在Internet中小型網站中的使用率尤其高。在使用mysql的過程中不規範的sql編寫、非最優的策略選擇都可能導致系統性能甚至功能上的缺陷。 ...


  mysql 資料庫是被廣泛應用的關係型資料庫,其體積小、支持多處理器、開源並免費的特性使其在 Internet 中小型網站中的使用率尤其高。在使用 mysql 的過程中不規範的 SQL 編寫、非最優的策略選擇都可能導致系統性能甚至功能上的缺陷。

  恰巧就在前幾天,本人所在公司的雲事業部舉辦了一場關於 mysql 的技術交流會,其中一個 part 正是聚焦於開發過程中 mysql 資料庫設計及使用的常見問題,並提出相關優化方案。根據會議內容並查閱相關資料,本人對這個 part 進行了一次小結,結合自己的工作經歷及理解形成此文以供分享,希望能有助於各位同行解決工作中的相關問題。

  本文將就以下三個問題進行展開:

    1. 庫表設計
    2. 慢 SQL 問題
    3. 誤操作、程式 bug 時怎麼辦

庫表設計

引擎選擇

  在 mysql 5.1 中,引入了新的插件式存儲引擎體繫結構,允許將存儲引擎載入到正在運新的 mysql 伺服器中。使用 mysql 插件式存儲引擎體繫結構,允許資料庫專業人員或者設計庫表的軟體開發人員為特定的應用需求選擇專門的存儲引擎,完全不需要管理任何特殊的應用編碼要求,也無需考慮所有的底層實施細節。因此,儘管不同的存儲引擎具有不同的能力,應用程式是與之分離的。此外,使用者可以在伺服器、資料庫和表格三個層級中存儲引擎,提供了極大的靈活性。

  mysql 常用的存儲引擎包括 MYISAM、Innodb 和 Memory,其中各自的特點如下:

    1. MYISAM : 全表鎖,擁有較高的執行速度,一個寫請求請阻塞另外相同表格的所有讀寫請求,併發性能差,占用空間相對較小,mysql 5.5 及以下僅 MYISAM 支持全文索引,不支持事務。
    2. Innodb:行級鎖(SQL 都走索引查詢),併發能力相對強,占用空間是 MYISAM 的 2.5 倍,不支持全文索引(5.6 開始支持),支持事務。
    3. Memory : 全表鎖,存儲在記憶體當中,速度快,但會占用和數據量成正比的記憶體空間且數據在 mysql 重啟時會丟失。

  基於以上特性,建議絕大部份都設置為 innodb 引擎,特殊的業務再考慮選用 MYISAM 或 Memory ,如全文索引支持或極高的執行效率等。

分表方法

  在資料庫表使用過程中,為了減小資料庫伺服器的負擔、縮短查詢時間,常常會考慮做分表設計。分表分兩種,一種是縱向分表(將本來可以在同一個表的內容,人為劃分存儲在為多個不同結構的表)和橫向分表(把大的表結構,橫向切割為同樣結構的不同表)。

  其中,縱向分表常見的方式有根據活躍度分表、根據重要性分表等。其主要解決問題如下:

    1. 表與表之間資源爭用問題;
    2. 鎖爭用機率小;
    3. 實現核心與非核心的分級存儲,如UDB登陸庫拆分成一級二級三級庫;
    4. 解決了資料庫同步壓力問題。

  橫向分表是指根據某些特定的規則來劃分大數據量表,如根據時間分表。其主要解決問題如下:

    1. 單表過大造成的性能問題;
    2. 單表過大造成的單伺服器空間問題。

索引問題

  索引是對資料庫表中一個或多個列的值進行排序的結構,建立索引有助於更快地獲取信息。 mysql 有四種不同的索引類型:

    1. 主鍵索此 ( PRIMARY )
    2. 唯一索引 ( UNIQUE )
    3. 普通索引 ( INDEX )
    4. 全文索引(FULLTEXT , MYISAM 及 mysql 5.6 以上的 Innodb )

  建立索引的目的是加快對錶中記錄的查找或排序,索引也並非越多越好,因為創建索引是要付出代價的:一是增加了資料庫的存儲空間,二是在插入和修改數據時要花費較多的時間維護索引。

  在設計表或索引時,常出現以下幾個問題:

    1. 少建索引或不建索引。這個問題最突出,建議建表時 DBA 可以一起協助把關。
    2. 索引濫用。濫用索引將導致寫請求變慢,拖慢整體資料庫的響應速度(5.5 以下的 mysql 只能用到一個索引)。
    3. 從不考慮聯合索引。實際上聯合索引的效率往往要比單列索引的效率更高。
    4. 非最優列選擇。低選擇性的欄位不適合建單列索引,如 status 類型的欄位。

慢 SQL 問題

導致慢 SQL 的原因

  在遇到慢 SQL 情況時,不能簡單的把原因歸結為 SQL 編寫問題(雖然這是最常見的因素),實際上導致慢 SQL 有很多因素,甚至包括硬體和 mysql 本身的 bug。根據出現的概率從大到小,羅列如下:

    1. SQL編寫問題
    2. 業務實例相互乾繞對 IO/CPU 資源爭用
    3. 伺服器硬體
    4. MYSQL BUG

由 SQL 編寫導致的慢 SQL 優化

  針對SQL編寫導致的慢 SQL,優化起來還是相對比較方便的。正如上一節提到的正確的使用索引能加快查詢速度,那麼我們在編寫 SQL 時就需要註意與索引相關的規則:

    1. 欄位類型轉換導致不用索引,如字元串類型的不用引號,數字類型的用引號等,這有可能會用不到索引導致全表掃描;
    2. mysql 不支持函數轉換,所以欄位前面不能加函數,否則這將用不到索引;
    3. 不要在欄位前面加減運算;
    4. 字元串比較長的可以考慮索引一部份減少索引文件大小,提高寫入效率;
    5. like % 在前面用不到索引;
    6. 根據聯合索引的第二個及以後的欄位單獨查詢用不到索引;
    7. 不要使用 select *;
    8. 排序請儘量使用升序 ;
    9. or 的查詢儘量用 union 代替 (Innodb);
    10. 複合索引高選擇性的欄位排在前面;
    11. order by / group by 欄位包括在索引當中減少排序,效率會更高。

  除了上述索引使用規則外,SQL 編寫時還需要特別註意一下幾點:

    1. 儘量規避大事務的 SQL,大事務的 SQL 會影響資料庫的併發性能及主從同步;
    2. 分頁語句 limit 的問題;
    3. 刪除表所有記錄請用 truncate,不要用 delete;
    4. 不讓 mysql 乾多餘的事情,如計算;
    5. 輸寫 SQL 帶欄位,以防止後面表變更帶來的問題,性能也是比較優的 ( 涉及到數據字典解析,請自行查詢資料);
    6. 在 Innodb上用 select count(*),因為 Innodb 會存儲統計信息;
    7. 慎用 Oder by rand()。

分析診斷工具

  在日常開發工作中,我們可以做一些工作達到預防慢 SQL 問題,比如在上線前預先用診斷工具對 SQL 進行分析。常用的工具有:

    1. mysqldumpslow
    2. mysql profile
    3. mysql explain

  具體使用及分析方法在此就不贅述,網上有豐富的資源可以參考。

誤操作、程式 bug 時怎麼辦

  提出這個問題顯然主要是針對剛開始工作的年輕同行們……實際上誤操作和程式 bug 導致數據誤刪或者混亂的問題並非少見,但是剛入行的開發工作者會比較緊張。一個成熟的企業往往會有完善的數據管理規範和較豐富的數據恢復方案(初創公司除外),會進行數據備份和數據容災。當你發現誤操作或程式 bug 導致線上數據被誤刪或誤改動時,一定不能慌亂,應及時與 DBA 聯繫,第一時間進行數據恢復(嚴重時直接停止服務),儘可能減少影響和損失。對於重要數據(如資金)的操作,在開發時一定要反覆進行測試,確保沒有問題後再上線。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • mysql -u root -p 輸入密碼進入資料庫 show database; 查詢當前庫 use databasename 切換到某個庫 show tables; 列出當前資料庫的表 desc tbalename 列出表的欄位 select user() + + | user() | + + ...
  • 一些需求是原生Flume無法滿足的,因此,基於開源的Flume我們增加了許多功能。 EventDeserializer的缺陷 Flume的每一個source對應的deserializer必須實現介面EventDeserializer,該介面定義了readEvent/readEvents方法從各種日誌 ...
  • 舉個例子如一張消息表 結構如些 Id (自增主鍵) Content(內容) UserId(說話人Id) IsWonderful(是否是精彩發言) Top(是否置頂) IsBarrage( 是否是彈幕) 當這個結構的表 數據還少時取 經常發言 置頂發言 和彈幕 速度比較快 但是數據一多 30多萬條的時 ...
  • 下麵是些泛泛的基礎知識,但是真正搞機器學習的話,還是非常有用。像推薦系統、DSP等目前項目上機器學習的應用的關鍵,我認為數據處理非常非常重要,因為很多情況下,機器學習的演算法是有前提條件的,對數據是有要求的。 機器學習強調三個關鍵詞:演算法、經驗、性能,其處理過程如下圖所示。 上圖表明機器學習是數據通過 ...
  • 首先先介紹幾個關鍵字 1 show status 表示資料庫當前的狀態數據 show [session|global] status session是當前連接的統計結果 global 是資料庫服務啟動以來 所有的統計結果 show status like ‘Com_%’; 其中Com_XXX表示XX ...
  • sql資料庫表連接,主要分為:內連接、外連接(左連接、右連接 、全連接)、交叉連接,今天統一整合一下,看看他們的區別。 首先建表填充值。 學生表:student(id,姓名,年齡,性別 ) 成績表:score(id,學生id,成績) 一、內連接(inner join……on) select stud ...
  • CentOS7 之 Redis3 學習筆記 1 Redis 官網: http://www.redis.io/ 2 Redis 的下載地址: http://download.redis.io/releases/redis-3.0.7.tar.gz 這裡我們下載的是 redis-3.0.7.tar.gz ...
  • UDF和存儲過程很類似,用戶自定義函數是一組有序的T-SQL語句,這些語句被預先優化和編譯,並且可以作為一個單元來測試調用。UDF和存儲過程的主要區別在於結果返回方式,為了能支持更多返回值,UDF比存儲過程有跟多限制。 UDF基本語法:CREATE FUNCTION <function name> ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...