解密數倉高可用failover流程

来源:https://www.cnblogs.com/huaweiyun/archive/2023/03/08/17192240.html
-Advertisement-
Play Games

摘要: Gaussdb的HA採用主備從的架構實現數據可靠性。當主DN發生故障時,備DN走failover流程,升級成為新主DN,保證集群不因單DN故障而中斷業務。 本文分享自華為雲社區《【玩轉PB級數倉GaussDB(DWS)】dws高可用之failover流程大解密》,作者:fxy0224。 眾所 ...


摘要: Gaussdb的HA採用主備從的架構實現數據可靠性。當主DN發生故障時,備DN走failover流程,升級成為新主DN,保證集群不因單DN故障而中斷業務。

本文分享自華為雲社區《【玩轉PB級數倉GaussDB(DWS)】dws高可用之failover流程大解密》,作者:fxy0224。

眾所周知,PostgreSQL通過WAL預寫xlog日誌的機制解決了在單機環境上因進程故障退出導致數據丟失的問題。但在磁碟損壞等情況下,存儲在持久性介質的數據就會丟失無法恢復,因此通常採用多副本的方式來保證數據可恢復。在Gaussdb中採用了主備從架構保證數據可靠性。

在Gaussdb主備從架構下,主DN分別與備​DN、從備DN建連。正常情況下,主DN與備DN、從備DN均建立流複製通道,分wal同步和數據頁同步兩個通道。wal同步是將存儲在磁碟中的wal文件讀出,然後通過walsender線程發送到備DN;數據頁同步是在列存或者批量導入行存數據的場景下使用,通過datasender線程將數據發送到備DN。備DN上通過walreceiver、datareceiver線程接收從主DN同步過來的數據。備DN對同步來的xlog做redo的方式實現與主DN的數據一致性。

failover的場景大致如下:當發生主DN故障且退出後,CM會向備DN通知failover升主的信號。備DN會率先主動連從備DN,將從備DN上的xlog與數據頁同步至備DN。然後備DN升主,備DN和從備DN之間建立新的流複製通道。這樣當主DN故障時,依靠備DN與從備DN,Gaussdb仍可對外提供服務。

failover時主備DN的狀態變化過程如下:

DN狀態切換過程示意圖

(由於wal機制,因此主備DN在啟動時均先執行redo,redo完成後DN狀態才從starting——>Normal)

當主DN因故障退出時,其狀態顯示為down。此時備DN處於斷連狀態,狀態由standby Normal變為needrepair(disconnected),當備DN收到failover信號時,狀態變為promoting,表示備DN正處於升主過程中。備DN狀態變為primary Normal後,表示備DN升主成功。

failover時備DN的流程示意圖如下:

failover流程示意圖

Gaussdb內部通過gs_ctl的方式發送給備DN的failover命令:

gs_ctl failover [-w] [-t SECS] [-D DATADIR] [-U USERNAME] [-P PASSWORD],具體流程如下:

  • 備DN上Postmaster線程將failover信號通知到Startup線程, startup線程收到failover信號後,將與主DN不斷建連的datareceiver和walreceiver線程shutdown;
  • startup線程獲取連接從備的建連信息(從備DN的ip+port),然後通知Postmaster線程創建新的walreceiver和datareceiver線程。
  • 備DN的walreceiver和datareceiver線程與從備DN的walsender和datasender建連。從備DN發送xlog日誌與數據頁信息到備DN
  • 備DN將從備DN上的數據同步結束後,其walreceiver線程和datareceiver線程均退出。備DN由startup線程進行redo。redo完成後,備DN將創建walsender和datasender線程,並與從備DN的walreceiver和datareceiver線程分別建連,備DN升主成功。備DN升主後,新主將與CN連接,並將xlog日誌與數據頁文件同步至從備。

 

點擊關註,第一時間瞭解華為雲新鮮技術~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Liunx Vim常用命令 1、打開命令: vi / vim + filename(文件名) 2、退出命令: 強制退出不保存修改的內容 :q! 退出並且保存修改的內容 :wq 強制保存修改的內容然後退出(修改了只讀文件會用到) :wq! 註意:輸入法需要改為英文,中文不生效! 3、游標移動命令 個人 ...
  • 前言 說實話在寫這篇文章的時候,鹹魚不禁又想起了那件男默女淚的往事 我喜歡做筆記,我覺得好記性不如爛筆頭,所以在我的學生以及職業生涯階段,我用過四款筆記應用——Onenote、語雀、印象筆記、Typora 其中我個人覺得體驗最好的非 Typora 莫屬了 ​ 在 2022 年的時候,由於 Typor ...
  • 系統增強工具PowerToys 下載地址:https://github.com/microsoft/PowerToys 什麼是 Windows 系統中,最好的輔助工具? PowerToys 一定可以獲得提名。PowerToys 是一款來自微軟的系統增強工具,就像是一個神奇的系統外掛,整套軟體由若幹子 ...
  • 通用表表達式 通用表表達式(Common Table Expression、CTE)是一個臨時的查詢結果或者臨時表,可以 在其他 SELECT、INSERT、UPDATE 以及 DELETE 語句中使用。通用表表達式只在當前語句中 有效,類似於子查詢。 使用 CTE 的主要好處包括: 提高複雜查詢的 ...
  • 一、Redis簡介 Redis全稱為 Remote Dictionary Server(遠程詞典服務),開源(BSD許可)的,使用 C 語言開發的。 Redis是記憶體中的數據結構存儲系統,它可以用作資料庫、緩存和消息中間件。 支持多種類型的數據結構,如 字元串(strings), 散列(hashes ...
  • MySQL查看資料庫性能常用命令 # 列出MySQL伺服器運行各種狀態值 show global status; # 查詢MySQL伺服器配置信息語句 show variables; # 慢查詢 show variables like '%slow%'; # MySQL伺服器最大連接數 show v ...
  • 摘要:Bucket存儲是數據共用中重要的一環,當前階段,bucket存儲可以將列存中的CU數據和DN節點解綁。 本文分享自華為雲社區《存算分離之bucket表——【玩轉PB級數倉GaussDB(DWS)】》,作者:yd_278301229 。 在雲原生環境,用戶可以自由配置cup型號、記憶體、磁碟、帶 ...
  • 《高性能MySQL》第四版發佈後,收到了很多讀者的反饋,其中關註最多的是作為一個初學者,應該如何能夠較為系統的學習MySQL,從而應對日常工作或者獲得更好的職業發展。於是和多個業內朋友討論後,整理了一些MySQL學習的推薦資源,供初學者參考。 本文分成幾部分,包括業界專家的經驗、推薦書籍、視頻/音頻 ...
一周排行
    -Advertisement-
    Play Games
  • 1. 說明 /* Performs operations on System.String instances that contain file or directory path information. These operations are performed in a cross-pla ...
  • 視頻地址:【WebApi+Vue3從0到1搭建《許可權管理系統》系列視頻:搭建JWT系統鑒權-嗶哩嗶哩】 https://b23.tv/R6cOcDO qq群:801913255 一、在appsettings.json中設置鑒權屬性 /*jwt鑒權*/ "JwtSetting": { "Issuer" ...
  • 引言 集成測試可在包含應用支持基礎結構(如資料庫、文件系統和網路)的級別上確保應用組件功能正常。 ASP.NET Core 通過將單元測試框架與測試 Web 主機和記憶體中測試伺服器結合使用來支持集成測試。 簡介 集成測試與單元測試相比,能夠在更廣泛的級別上評估應用的組件,確認多個組件一起工作以生成預 ...
  • 在.NET Emit編程中,我們探討了運算操作指令的重要性和應用。這些指令包括各種數學運算、位操作和比較操作,能夠在動態生成的代碼中實現對數據的處理和操作。通過這些指令,開發人員可以靈活地進行算術運算、邏輯運算和比較操作,從而實現各種複雜的演算法和邏輯......本篇之後,將進入第七部分:實戰項目 ...
  • 前言 多表頭表格是一個常見的業務需求,然而WPF中卻沒有預設實現這個功能,得益於WPF強大的控制項模板設計,我們可以通過修改控制項模板的方式自己實現它。 一、需求分析 下圖為一個典型的統計表格,統計1-12月的數據。 此時我們有一個需求,需要將月份按季度劃分,以便能夠直觀地看到季度統計數據,以下為該需求 ...
  • 如何將 ASP.NET Core MVC 項目的視圖分離到另一個項目 在當下這個年代 SPA 已是主流,人們早已忘記了 MVC 以及 Razor 的故事。但是在某些場景下 SSR 還是有意想不到效果。比如某些靜態頁面,比如追求首屏載入速度的時候。最近在項目中回歸傳統效果還是不錯。 有的時候我們希望將 ...
  • System.AggregateException: 發生一個或多個錯誤。 > Microsoft.WebTools.Shared.Exceptions.WebToolsException: 生成失敗。檢查輸出視窗瞭解更多詳細信息。 內部異常堆棧跟蹤的結尾 > (內部異常 #0) Microsoft ...
  • 引言 在上一章節我們實戰了在Asp.Net Core中的項目實戰,這一章節講解一下如何測試Asp.Net Core的中間件。 TestServer 還記得我們在集成測試中提供的TestServer嗎? TestServer 是由 Microsoft.AspNetCore.TestHost 包提供的。 ...
  • 在發現結果為真的WHEN子句時,CASE表達式的真假值判斷會終止,剩餘的WHEN子句會被忽略: CASE WHEN col_1 IN ('a', 'b') THEN '第一' WHEN col_1 IN ('a') THEN '第二' ELSE '其他' END 註意: 統一各分支返回的數據類型. ...
  • 在C#編程世界中,語法的精妙之處往往體現在那些看似微小卻極具影響力的符號與結構之中。其中,“_ =” 這一組合突然出現還真不知道什麼意思。本文將深入剖析“_ =” 的含義、工作原理及其在實際編程中的廣泛應用,揭示其作為C#語法奇兵的重要角色。 一、下劃線 _:神秘的棄元符號 下劃線 _ 在C#中並非 ...