架構組件:基於Shard-Jdbc分庫分表,資料庫擴容方案

来源:https://www.cnblogs.com/cicada-smile/archive/2019/08/04/11297223.html
-Advertisement-
Play Games

架構組件:基於Shard Jdbc分庫分表,資料庫擴容方案 一、資料庫擴容 1、業務場景 互聯網項目中有很多“數據量大,業務複雜度高,需要分庫分表”的業務場景。 這樣分層的架構 (1)上層是業務層biz,實現業務邏輯封裝; (2)中間是服務層service,封裝數據訪問; (3)下層是數據層db,存 ...


架構組件:基於Shard-Jdbc分庫分表,資料庫擴容方案

一、資料庫擴容

1、業務場景

互聯網項目中有很多“數據量大,業務複雜度高,需要分庫分表”的業務場景。
在這裡插入圖片描述
這樣分層的架構
(1)上層是業務層biz,實現業務邏輯封裝;
(2)中間是服務層service,封裝數據訪問;
(3)下層是數據層db,存儲業務數據;

2、擴容場景和問題

當數據量持續新增,面臨著這樣一些需求,兩台資料庫無法容納,需要資料庫擴容,這裡選擇2台—擴容到3台的模式,如下圖:
在這裡插入圖片描述
這樣擴容的問題
(1)分庫分表的策略導致數據遷移量大;
(2)影響數據的持續服務性;
(3)指定時間完成,技術壓力大,容易導致預想不到的錯誤;

如何平穩不停機遷移數據,保證系統持續服務,是本文將要討論的問題。

二、擴容解決方案

1、擴容方案圖解

在這裡插入圖片描述
(1)分庫分表基於MySQL資料庫,使用shard-jdbc中間件
(2)該方案的思路整體基於SpringCloud微服務架構

2、解決擴容問題

(1)擴容情況下不需要暫停服務;
(2)數據遷移的壓力小,不需要指定時間;

3、數據訪問層邏輯

在這裡插入圖片描述
方案描述
基於兩台資料庫分庫分表,簡稱:服務二
基於三台資料庫分庫分表,簡稱:服務三
(1)提供兩套服務,服務二和服務三
(2)資料庫擴容後,如果訪問服務三直接獲取到數據,流程結束。
(3)如果訪問服務三獲取不到數據,則訪問服務二獲取數據。
(4)在遷移開始的一段時間內,訪問壓力還會在服務二上面。
(5)這樣就做到數據訪問服務不會停機。
(6)這種訪問模式基於SpringCloud很容易做到。

4、數據遷移層邏輯

在這裡插入圖片描述
方案描述
(1)關閉基於兩台庫的數據入庫流程
(2)開啟基於三台庫的數據入庫流程,這樣新入庫數據就可以被服務三直接訪問到。
(3)開發數據遷移中間件,掃描原先兩台庫的數據。
(4)掃描的數據根據分三台庫策略判斷是否需要遷移。
(5)如果數據需要遷移,則調用服務三的數據入庫介面。
(6)數據遷移完成後,刪除原來的位置的數據。
(7)這種遷移模式基於SpringCloud很容易做到。

5、該方案遷移的優點

(1)整個過程是持續對線上提供服務;
(2)數據遷移中間件的開發複雜度較低;
(3)可以限速慢慢遷移,沒有時間壓力;

三、源代碼管理

GitHub地址:知了一笑
https://github.com/cicadasmile
碼雲地址:知了一笑
https://gitee.com/cicadasmile



您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 搜羅到兩種相容性還不錯的方式。 1、第一種,通過clipboard.js插件實現(推薦) 此插件封裝了很多種使用方式很方便,具體demo,可以去GitHub上看,clipboard傳送門 2、第二種,純js實現: 上面兩種方式相容性都不錯,親測可用。 ...
  • 在CSS里,標簽位置居中一直是困擾Web前端的難題。在本文中,我對這類問題進行了探究和給出了幾點建議,供讀者參考。 1 行內標簽 1.1 水平居中 在父級標簽中使用 text-align: center。 效果: 1.2 垂直居中 如果是單行,則為該標簽設置行高(line-height)且與其父級標 ...
  • 介紹 客戶端不應該依賴它不需要的介面,即 一個類對另一個類的依賴應該建立在最小介面上 。 Demo引入 先來看一張圖: 如上圖所示:類A通過介面MyInterface依賴類B,類C通過介面MyInterface依賴類D;但是,類A只是想要使用B實現的介面MyInterface中的1,2,3方法,類C ...
  • 發佈 http://cxf.apache.org/download.html下載cfx項目解壓,配置系統環境 maven web項目里添加cfx 怎麼調用這些方法參考 https://www.cnblogs.com/tk55/p/11298435.html ...
  • 舉個慄子 問題描述 不同國家的人在NBA打球,但都是用英文交流。 簡單實現 Player Forwards Center Guards 測試 測試結果 存在問題 姚明剛到NBA時可能英文還不太好,也就是說聽不懂教練的戰術安排,attach 和 defense 不知道什麼意思,因此這樣實現會有問題,需 ...
  • 常見服務:http://www.webxml.com.cn/zh_cn/support.aspx 可能用到缺少的ArrayOfString.java文件 package com.test.wes.weather; import java.util.ArrayList; import java.uti ...
  • JDK1.5新特性: 1.自動拆裝箱. 2.泛型 3.可變參數 4.靜態導入 5.增強for迴圈 6.互斥鎖 7.枚舉 8.註解 JDK1.6新特性: 1.Desktop類和SystemTray類 2.使用JAXB2來實現對象與XML之間的映射 3.StAX 4.使用Compiler API 5.輕 ...
  • 一、項目結構 1、工程結構 2、模塊命名 3、代碼依賴結構 4、項目啟動順序 按照順序啟動,且等一個服務完全啟動後,在啟動下一個服務,不然可能遇到一些坑。 二、核心代碼塊 1、8001 服務提供一個對外服務 基於Feign的調用方式 作用:基於兩台分庫分表的數據查詢介面。 2、8002 服務提供一個 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...