RocketMQ從3.5.8升級到4.3.2版本實戰記錄

来源:https://www.cnblogs.com/zhyg/archive/2018/12/19/10132598.html
-Advertisement-
Play Games

平滑過渡rocketmq升級方案從3.5.8升級到4.3.2 ...


 

背景

  我們在很早之前大約在2015年8月份左右我們開始使用Rocketmq作為公司消息中間件,那個時候RocketMQ還沒有捐贈給Acaphe。

  RocketMQ版本還是3.2.6,中間升級了一次版本,目前版本是3.5.8。

  但是隨著RocketMQ版本不斷更新並且功能與穩定性也不斷提高,所以打算升級為4.3.X版本

  上一次升級停機了10分鐘不到還是很快的,這次的目標是不停機升級版本。(題外話,上次因為升級還燃起了一波“乾架”)

架構深入瞭解

  先簡單附上一張RocketMQ的整體架構圖,通過架構圖我們可以從中分析出幾種不停機版本升級方案

  

  簡單解釋一下這個方案就是2主2從 多個nameserver,本公司架構一樣,只是節點多了點而已,3主3從 2個nameserver

  通過這個架構圖我們設想了幾個錯略方案

  1. 新加兩台(一主一從)伺服器Broker節點升級4.3.2,然後註冊到Name Server(如果目前伺服器可以承受壓力可以不用新加),然後逐台切換最後在切換NameServer節點。
  2. 先替換一臺NameServer節點,然後倒入相關topic等信息,然後切換Broker節點。
  3. 如果方案1 2 都不能實現不停機,那就只能申請同樣資源伺服器再架設一套,最後切換IP或host(RocketMQ可以依賴hostname或IP地址所以比較麻煩,同時之前數據不好做同步)。
  4. 最後的防線停機維護了,違背了不停機維護的初衷。

方案實踐測試

  從方案1開始進行測試,

  我們將4.3.2版本的broker註冊到NameServer3.5.8的版本上出現瞭如下錯誤:

 

  然後去看了源碼

  

  報錯了很明顯這是兩個版本不相容有意為之,所以方案1被否定

  


  接下來我們嘗試方案2

  讓Broker3.5.8版本的節點註冊到NameServer4.3.2版本的節點,我們開始

  現根據官方文檔啟動NameServer(v4.3.2)服務

  sh bin/mqnamesrv

  

  NameServer成功啟動

  接下來我們啟動broker(v3.5.8)服務

  sh bin/mqbroker -n IP:9876 -c conf/2m-2s-async/broker-a.properties

  

  啟動成功,查看日誌是否有異常

  

  沒有拋出異常,註冊成功,同時使用程式進行測試發送消息成功,這裡程式代碼就不貼上來了。

  控制台也顯示正常

  

 

  從上面測簡單測試來看方案2是基本可行的,接下來切換broker節點為4.3.2,看看是否文件相容

  

  主從版本複製沒有問題,同步OK,看看消息如何,如下圖消息解析也沒有問題

  

   接下來我們測試方案2的業務連續性

  通過上面的簡單測試發現方案2可行 方案二如下

  

  接下來開始方案二的具體實施RocketMQ各節點平滑過渡切換步驟

  1、首先備份各種配置文件以防出現問題不能回滾,其中主要備份的有rocketmq程式包,store文件夾中的除commitlog文件夾外的文件(commitlog文件夾內容太多備份困難,並且從節點也有相同的一份,就沒有備份)

  

  2、修改相關配置文件,主要針對4.3.2版本進行修改(有些不一定要改根據實際機器環境如jdk)

     包括如下runserver.sh runbroker.sh 修改堆棧記憶體大小適應宿主機,還有相應的jdk環境,如果沒有設置JAVA_HOME的話

     設置相關文件的可執行許可權一般有 os.sh runbroker.sh runserver.sh

      命令 chmod u+x os.sh runbroker.sh runserver.sh

      設置各個節點配置文件,2m-2s-async文件夾下的配置保持與上一個版本保持一致(尤其是存儲路徑store

    

  3、開始切換namesrv節點

    首先打開namesrv節點宿主機(老版本正在運行的)執行如下命令停止namesrv

    sh mqshutdown namesrv 

    

    停止成功

    啟動4.3.2版本namesrv命令如下

    nohup sh bin/mqnamesrv &

    依次啟動多個namesrv節點,並查看日誌註意是否有異常

  4、開始切換broker節點

    步驟與切換namesrv類似不過broker節點有主從的概念

    首先找到集群中的一臺master幾點進行切換,執行如下命令關停主節點

    sh mqshutdown broker

    

 

    啟動4.3.2版本broker命令如下

    nohup sh bin/mqbroker -c conf/2m-2s-async/broker-b.properties &

    啟動之後日誌如下

    

    

    接下來進行從節點啟動切換

    步驟與主節點相同

    其他節點進行依次重啟切換

    最後貼一張全部切換完成的圖

    

總結

  通過上面的步驟已經接近完美的進行版本平滑升級,生產和消費幾乎感覺不到,其實在過程當中是有卡頓現象出現的

  其中尤其要註意的是備份和新版本的各個配置文件要做好,否則會很惱火

  同時要留意主從之間數據差距不要太大

  還好我們生產環境只有6台伺服器(3m-3s)加入有十幾二十節點我手動改就要瘋了,所以使用docker部署未嘗不是一件可選方案

  在這裡記錄希望對大家有參考意義


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • BOM(瀏覽器對象模型)提供了很多對象,用於訪問瀏覽器的功能,這些功能與任何網頁內容無關。 window對象 全局作用域 定義全局變數與在window對象上直接定義屬性還是有一點差別:全局變數不能通過delete操作符刪除,而直接在window對象上的定義的屬性可以。 視窗關係及框架 window. ...
  • 類數組 什麼是類數組? 定義: 擁有length屬性,其屬性(索引)為非負整數 不具有數組的所具有的方法 類數組與非類數組的比較 類數組: 非類數組: 沒有length屬性,所以就不是類數組。 javascript中常見的類數組有arguments對象和DOM方法的返回結果。 比如 document ...
  • .tangram-suggestion-main { z-index: 9999 !important;} ...
  • This的用法 This作為JavaScript中的關鍵字,在函數中具有四種用法。 一、直接在函數中使用,誰調用這個函數,this就指向誰 例如: 這裡this就代表著全局對象。 二、在對象中使用,一般情況下是指向該對象 例如: 這裡的this就指向這個上級對象。 三、在構造函數中使用 例如: 這裡 ...
  • 名詞介紹 instanceof 的作用是判斷實例對象是否為構造函數的實例,實際上判斷的是實例對象的__proto__屬性與構造函數的prototype屬性是否指向同一引用; constructor 的作用是返回實例的構造函數,即返回創建此對象的函數的引用。 區別 先貼出代碼 上邊代碼中的創建了兩個函 ...
  • CSS3 邊框 在 CSS3 中, 屬性用於創建圓角。 語法 |值|描述| | | | |length|設置拐角的半徑。| |%|使用百分比定義拐角的半徑。| 效果如下: 在 CSS3 中, 屬性用來添加陰影。 語法 |值|說明| | | | | |必需,表示水平陰影相對於元素的偏移位置。當 大於0 ...
  • 推送作為APP幾乎必備的功能,不論是什麼產品都免不了需要 功能,一般做 開發的可能都是前端出身(比如我),關於 `ios` 都不是很懂
  • 什麼是模板方法模式?摘錄 "wiki" 的介紹。 模板方法模式定義了一個演算法的步驟,並允許子類別為一個或多個步驟提供其實踐方式。讓子類別在不改變演算法架構的情況下,重新定義演算法中的某些步驟。在軟體工程中,它是一種軟體設計模式,和C++模板沒有關連。 模板設計方法存在目的在於某些演算法邏輯存在一些相同處, ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...