AppBoxFuture: Raft快照及日誌截斷回收

来源:https://www.cnblogs.com/BaiCai/archive/2019/09/29/11610057.html
-Advertisement-
Play Games

  AppBoxFuture的存儲引擎依賴Raft一致性協議來保證各個分區副本的一致性,如果不處理Raft日誌將不斷增長,因此需要特定的機制(定期或每處理一定數量的日誌)來回收那些無用的日誌數據。通過學習Raft協議內的Log Compaction,並參考TiKV等實現,作者初步 ...


  AppBoxFuture的存儲引擎依賴Raft一致性協議來保證各個分區副本的一致性,如果不處理Raft日誌將不斷增長,因此需要特定的機制(定期或每處理一定數量的日誌)來回收那些無用的日誌數據。通過學習Raft協議內的Log Compaction,並參考TiKV等實現,作者初步實現了分區快照與日誌截斷回收功能。

一、快照流程:

  每個分區對應一個Raft組,由不同的Raft節點分佈在集群的不同機器上,每個RaftNode都在迴圈處理Ready(如下圖所示):

  • 在達到快照創建條件時(上圖步驟6),即滿足一定周期(如6小時)且期間應用的已遞交日誌數量達到閾值(如10000條),RaftNode通知對應的狀態機創建快照,這裡主要是利用RocksDB的Snapshot及SstFileWriter將當前分區所涉及的KV數據寫入相應的sst文件內。在狀態機創建快照成功後,RaftNode通知對應的RaftStorage截斷並回收日誌,由於目前Raft日誌同樣使用RocksDB存儲,所以可以利用RocksDB的DeleteRange功能批量刪除無用的日誌。

  • 如果同一Raft組內的某一節點所在的機器Down機了較長的時間,在此期間此組內的Leader達到快照條件創建了快照並回收了日誌。之後Down掉的機器重新啟動,Follower與Leader通信後要求追加Down機期間的日誌,但Leader快照前的日誌已刪除,Leader會發送Raft快照給Follower,這裡需要註意的是Leader先發送狀態機創建的各個sst文件,都發送完了再發送RaftSnapshot消息。

  • Follower在收到快照消息時(上圖步驟3),先清理當前分區所涉及的所有舊數據,然後通知對應的狀態機恢復快照數據,這裡主要是利用RocksDB的IngestExternalFile將各個sst文件快速導入存儲內。

創建與接收的快照文件目前存儲在運行時snapshot目錄內。

二、簡單測試:

1. 啟動集群並新建測試用實體模型

參考前篇“告別單體架構,迎接分散式時代”啟動一個新集群,並且登錄至IDE創建新實體。

2. 關閉集群某一節點模擬Down機

直接Control+C關閉某一節點。

3. 新建一個服務插入5000條記錄

在IDE內新建服務用於插入5000條記錄(用於觸發快照條件),調用此服務後可看到控制台輸出如下圖所示的創建快照日誌。

4. 重新啟動Down機節點

通過如下命令重啟Down機節點,可看到控制台輸出如下圖所示的恢復快照日誌。

sudo ./appbox

5. 驗證Down機節點快照恢復

通過tools/dbscan工具查看快照數據是否已恢復。

tools/dbscan --db=data(數據所在目錄) --cf=TableCF --take=10000 --prefix=000020017000

dbscan的參數--prefix=十六進位字串, 可以只匹配相同首碼的KV記錄

三、本篇小結:

  本篇介紹了Raft快照及日誌截斷回收的流程及相應的測試,GitHub上的運行時已更新可供測試。作者單獨開發AppBoxFuture到十月一日就整一年了,期間曾多次想放棄,好在頂著巨大的壓力總算解決了這最後一個技術難點,到此基本上原型驗證是沒有大問題了,下一步的重點是完善必要功能、穩定性及性能優化,並且考慮是開源該項目還是商業化運作。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 因為bootstrap自帶的固定列效果滿足不了公司需求,所以藉助fixed-table這個插件完成了iview固定列的效果 <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8" /> <title>左右兩側固定列,中間內容可以橫向 ...
  • 公司最近有需求要做樹形式table。因為是前後端不分離項目,且之前已經引入了bootstrap table插件,現把實現方式分享一下: <!DOCTYPE HTML> <html lang="zh-cn"> <head> <meta charset="utf-8" /> <meta http-equ ...
  • 1.html定義: html是一種超文本標記語言,“超文本”是指頁面可以包含圖片、鏈接、音樂、程式等非文字元素。 Html不是一種編程語言。 2.html5的新特性: 用於繪畫的canvas元素; 用於媒介回放的video和audio元素; 對本地離線存儲的更好支持; 新的特殊內容元素如articl ...
  • 寫在前面 權重這個概念,相信對許多進行過前端開發的小伙伴來說肯定並不陌生,有時候一個樣式添加不上,我們就會一個 !important 懟上去,一切就好像迎刃而解了。但還有的時候,!important也並不能解決我們的問題,下麵請跟隨我來詳細瞭解一下css的權重吧! 探索權重 指某一因素或指標相對於某 ...
  • 1、聲明:@keyframes name{ }; 2、涉及到的屬性 animation-name:動畫名稱 animation-duration:單次動畫總時長 animation-timing-function:時間函數 animation-delay:播放前延時的時長 animation-ite ...
  • 前言 The last time, I have learned 【THE LAST TIME】一直是我想寫的一個系列,旨在厚積薄發,重溫前端。 也是給自己的查缺補漏和技術分享。 歡迎大家多多評論指點吐槽。 系列文章均首發於公眾號【全棧前端精選】,筆者文章集合詳見 "Nealyang/persona ...
  • <script> 標簽 在 HTML 中,JavaScript 代碼必須位於 <script> 與 </script> 標簽之間。 實例 註釋:舊的 JavaScript 例子也許會使用 type 屬性:<script type="text/javascript">。 註釋:type 屬性不是必需的 ...
  • 場景 Docker 私服Registry簡介與使用Docker-Compose安裝Registry: https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/101567542 在上面安裝Registry後配置其客戶端以及Web UI。 註 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...