資料庫分庫解決方案

来源:https://www.cnblogs.com/kingson-blog/archive/2019/12/30/12122211.html
-Advertisement-
Play Games

當業務數據量非常大,單資料庫無法支撐的時候,有可能是單庫已經寫滿了,也可能資料庫讀寫比較頻繁,已經觸碰到單庫的io瓶頸了,這時就需要考慮分庫。 下麵聊一下該怎麼分庫,如何優化: 剛開始只有資料庫A, 後來又加了資料庫B。 假如數據表都是有時間戳欄位,而且數據查詢條件都帶一個時間戳欄位,這樣我們可以根 ...


當業務數據量非常大,單資料庫無法支撐的時候,有可能是單庫已經寫滿了,也可能資料庫讀寫比較頻繁,已經觸碰到單庫的io瓶頸了,這時就需要考慮分庫。

下麵聊一下該怎麼分庫,如何優化:

剛開始只有資料庫A, 後來又加了資料庫B。

假如數據表都是有時間戳欄位,而且數據查詢條件都帶一個時間戳欄位,這樣我們可以根據數據創建的時間範圍來分庫,比如給資料庫按年份命名db_2019, 到2020年新生成一個庫db_2020, 在業務端進行數據讀寫操作時,先根據時間戳條件獲取到年份,然後選擇相應年份的資料庫進行操作。

但上面這種方式只適合這種特定的業務場景,而且這種方式,可能舊數據很少讀取,新數據會比較頻繁讀取,會導致不同資料庫負載是不均勻的。所以會不會有更好的分片方式呢? 答案是肯定的。幾乎任何一張表都會有鍵欄位,假如鍵值是數字類型,可以鍵值與資料庫數量取模的方式進行分片,比如鍵值是100,資料庫數量是2, 那麼100%2得到0,就應該存儲到索引為0的資料庫。假如鍵值是字元串呢,可以通過crc32(value)算出一個數字,然後再通過數字取模的方式得到相應的資料庫。

假如在使用過程中,資料庫又不夠用了,需要再擴容,怎麼辦? 

停服,根據新的分片邏輯進行數據遷移,起服上線新的分片邏輯。沒毛病,假如業務允許停機一段時間, 這也是一種穩妥方式。假如業務不允許停機,或只允許停機很短的時間,這時該如何資料庫擴容呢,或者說該如何平滑地進行資料庫遷移而不影響業務呢?

 

可以通過下麵步驟來

方案一:

  • 修改寫資料庫邏輯:對需要遷移的數據,進行雙寫(寫原資料庫和要遷往的資料庫)
  • 寫一個遷移腳本:從原資料庫遷數據到目標資料庫
  • 校驗原資料庫是否跟跟目標資料庫數據一致(在遷移的瞬間可能發生了原資料庫刪除了數據,而目標資料庫依然寫入),刪掉目標資料庫多餘的數據。
  • 修改資料庫分片邏輯,去掉雙寫邏輯
  • 刪掉各個資料庫冗餘的數據

 

若資料庫雙倍分庫擴容有更好方案

方案二:

  • 原資料庫和要遷往的資料庫設計成雙主同步
  • 修改資料庫分片邏輯
  • 刪掉各個資料庫冗餘的數據

後面找個時間再補充一些圖表,以便讀者能更直觀得理解。

 

還有一些問題:

問題一:假如方案一中,進行雙寫的時候一個寫成功,一個寫失敗,該如何處理?

問題二:分庫後,如何分頁查詢數據?

 

後面會再寫一篇較大篇幅的文章分析如何跨資料庫分頁查詢數據。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • HTTP狀態碼的英文為 HTTP Status Code。下麵是常見的HTTP狀態碼: 200 - 請求成功 301 - 資源(網頁等)被永久轉移到其它URL 404 - 請求的資源(網頁等)不存在 500 - 內部伺服器錯誤 1、HTTP狀態碼的分類 HTTP狀態碼由三個十進位數字組成,第一個十進 ...
  • 如需代碼,詳情請咨詢郵箱,謝謝配合 ...
  • Css3選擇器相關: section > div直接子元素選擇器 div + article相鄰兄弟選擇器(在元素之後出現) div ~ article通用兄弟選擇器(在元素之後出現) 屬性選擇器: a[href] { text-decoration: none; } a[href="#"] { c ...
  • $("#divSetting").on("click", function () { $(this).toggleClass("open"); }); ...
  • 遇到一個小問題,記錄一下 問題:在微信小程式中使用scroll-view標簽時,用height:cale(xx - xx)設置高度無效,在page中設置高度為百分百依舊無效 解決辦法:直接在最大的view標簽中設置高度為百分百即可 ...
  • 有一段時間沒有更新技術博文了,因為這段時間埋下頭來看Vue源碼了。本文我們一起通過學習雙向綁定原理來分析Vue源碼。預計接下來會圍繞Vue源碼來整理一些文章,如下。 "一起來學Vue雙向綁定原理 數據劫持和發佈訂閱" "一起來學Vue模板編譯原理(一) Template生成AST" "一起來學Vue ...
  • 本文我們一起通過學習Vue模板編譯原理(一) Template生成AST來分析Vue源碼。預計接下來會圍繞Vue源碼來整理一些文章,如下。 "一起來學Vue雙向綁定原理 數據劫持和發佈訂閱" "一起來學Vue模板編譯原理(一) Template生成AST" "一起來學Vue模板編譯原理(二) AST ...
  • 文章列表: 《一》大話 TypeScript 基本類型 《二》大話 Typescript 枚舉 《三》大話 Typescript 介面 《四》大話 Typescript 泛型 《五》大話 Typescript 函數與類 《六》Typescript 最佳實踐 《一》大話 TypeScript 基本類型 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...