怎麼做才能不丟消息?

来源:https://www.cnblogs.com/wing011203/archive/2023/03/09/17196926.html
-Advertisement-
Play Games

這篇文章主要描述如何在使用消息隊列時避免丟消息,包括檢測消息丟失的方法以及消息從生產到完成消費的過程中,經歷的生產、存儲和消費這三個階段是分別如何保證消息可靠傳遞的。 ...


現在主流的消息隊列產品都提供了非常完善的消息可靠性保證機制,可以做到在消息傳遞的過程中,即使發生網路中斷或者硬體故障,也能確保消息的可靠傳遞、不丟消息。

絕大部分丟消息的原因都是由於開發者不熟悉消息隊列,沒有正確使用和配置消息隊列導致的。

檢測消息丟失的方法

用消息隊列最尷尬的情況不是丟消息,而是丟了消息還不知道。因此,我們需要設計一套機制來監控消息是否有丟失。

根據項目的成熟程度,一般有兩種方式來檢測:

  1. 如果項目基礎設施比較完善,那麼可以使用分散式鏈路追蹤系統來追蹤每一條消息。
  2. 如果項目初期,系統剛上線,那麼可以利用消息隊列的有序性來檢測是否有消息丟失。

我們可以在Producer端發出的每一條消息附加一個連續遞增的序號,然後在Consumer端檢測這個序號的連續性。如果沒有消息丟失,Consumer收到的消息的序號必然是連續遞增的,如果檢測到序號不連續,那麼就是丟消息了,還可以通過缺失的序號來確定丟失的是哪一條消息。

針對這種檢測方法,有3條建議:

  1. 像Kafka和RocketMQ這樣的消息隊列,它不保證消息在Topic上的嚴格順序,只能保證消息在分區(隊列)上是有序的,所以我們在發消息的時候必須要指定分區,並且每個分區單獨檢測消息序號的連續性。
  2. 如果系統中有多個Producer實例,並且不好協調多個Producer之間的發送順序,那麼也需要針對每個Producer分別生成各自的消息序號,並且需要附加上Producer標識,在Consumer端按照每個Producer分別來檢測序號的連續性。
  3. Consumer實例的數量最好和分區數量一致,做到Consumer和分區一一對應,這樣比較方便在Consumer內檢測消息序號的連續性。

消息可靠傳遞

一條消息從生產到消費完成的過程,可以分為三個階段:

  1. 生產階段:消息在Producer創建出來,經過網路傳輸到Broker端。
  2. 存儲階段:消息在Broker端存儲,如果是集群,消息還會被覆制到其他副本上。
  3. 消費階段:Consumer從Broker上拉取消息,經過網路傳輸到Consumer上。

消息生產階段

在生產階段,消息隊列最常用的是請求-確認機制,來保證消息的可靠傳遞:當代碼調用發消息方法時,消息隊列的客戶端會把消息發送到Broker,Broker收到消息後,會給客戶端返回一個確認響應,表示消息已經收到了。

只要Producer收到了Broker的確認響應,就可以保證消息在生產階段不會丟失。有的消息隊列會在長時間沒有收到發送確認響應後,自動重試,如果重試再失敗,就會以返回值或者異常的方式告知用戶。

消息存儲階段

在存儲階段正常情況下,只要Broker在正常運行,就不會出現丟失消息的問題,但是如果Broker出現了故障,還是有可能會丟消息。

如果對消息的可靠性要求非常高,可以通過配置Broker參數來避免因為宕機丟消息。

如果Broker是由多個節點組成的集群,那麼需要將Broker集群配置成:至少將消息發送到2個以上的節點後,再給客戶端回覆發送確認響應。

消息消費階段

消費階段採用和生產階段類似的請求-確認機制來保證消息的可靠傳遞,客戶端從Broker拉取消息後,執行用戶的消費業務邏輯,成功後,才會給Broker發送消費確認響應。

如果Borker沒有收到消費確認響應,下次拉消息時還會返回同一條消息,確保消息不回在網路傳輸過程中丟失,也不會因為客戶端在執行消費邏輯中出錯導致丟失。

我們需要註意,不要在收到消息後就立即發送消費確認,而是應該在執行完所有消費業務邏輯之後,再發送消費確認。

    作者:李潘     出處:http://wing011203.cnblogs.com/     本文版權歸作者和博客園共有,歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則保留追究法律責任的權利。
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 這個問題? 這個問題一般會出現在面試題裡面,然後回答一些諸如輪詢、WebSocket之類的答案。當然,實際開發中,也會遇到類似別人給你贊了,要通知給你的情況。這時服務端推送給Web前端(先局限在Web前端,畢竟其他端還有一些特殊方法)到底 ...
  • 項目中經常會碰到頁面自適應的問題,例如:商城的列表展示、分類列表展示等頁面,如下: 該頁面會隨著頁面的放大縮小而隨之發生變化,解決方法:display: flex;配合子元素的動態寬度來實現,子元素的寬度 = (總寬 - 自身的margin) / 每行的數量即可。 .box{ border: 1px ...
  • 前端中的觀察者模式(Observer Pattern),定義了對象之間的一種一對多的依賴關係,使得當一個對象狀態發生改變時,所有依賴於它的對象都能夠得到通知並自動更新。 在前端開發中,觀察者模式常被用來實現組件間的數據傳遞和事件處理。比如,當一個組件的狀態發生改變時,可以通過觀察者模式來通知其他組件 ...
  • Webix是Javascript庫 一種軟體產品 用於加速Web開發的 JavaScript UI庫和框架 Webix用於跨平臺 Web應用程式開發的JS框架 102個UI小部件和 功能豐富的CSS/HTML5 JavaScript控制項 開發商介紹 Webix團隊由由熱衷於創建高質量網路產品的專業人 ...
  • 前端路由的設置: Vue2路由(vue-router3) 安裝插件 npm i vue-router@3 router/index.js文件設置 import Vue from "vue"; import VueRouter from "vue-router"; Vue.use(VueRouter) ...
  • JavaScript中的發佈/訂閱模式(Pub/Sub)是一種常用的設計模式。它允許在應用程式中定義對象之間的一對多的依賴關係,當一個對象的狀態發生變化時,所有依賴於它的對象都會被通知和更新。 在發佈/訂閱模式中,有兩種類型的對象:發佈者和訂閱者。發佈者是事件的發出者,它通常維護一個事件列表,並且可 ...
  • 在各種場景的開發中Dialog組件的出現頻率都是非常高的,Dialog組件作為一個容器組件受容器內業務代碼複雜度的影響,代碼行數、變數及函數的定義可能會很多,這樣的組件就一定要考慮封裝使用,以保證主流程代碼的簡潔。下麵一起來看一下如何利用面向對象的思想來封裝它吧~ ...
  • w3c機構:規定網頁分成三個部分:結構、樣式、表現形式。 無序列表: (每個列表左側都有實心黑點,可以用css去掉) <ul> <li>列表1</li> <li>列表2</li> </ul> 快捷方式:ul>li*數量 tab <ul></ul>中只能嵌套<li></li> <li></li>之間相 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...