怎麼做才能不丟消息?

来源:https://www.cnblogs.com/wing011203/archive/2023/03/09/17196926.html
-Advertisement-
Play Games

這篇文章主要描述如何在使用消息隊列時避免丟消息,包括檢測消息丟失的方法以及消息從生產到完成消費的過程中,經歷的生產、存儲和消費這三個階段是分別如何保證消息可靠傳遞的。 ...


現在主流的消息隊列產品都提供了非常完善的消息可靠性保證機制,可以做到在消息傳遞的過程中,即使發生網路中斷或者硬體故障,也能確保消息的可靠傳遞、不丟消息。

絕大部分丟消息的原因都是由於開發者不熟悉消息隊列,沒有正確使用和配置消息隊列導致的。

檢測消息丟失的方法

用消息隊列最尷尬的情況不是丟消息,而是丟了消息還不知道。因此,我們需要設計一套機制來監控消息是否有丟失。

根據項目的成熟程度,一般有兩種方式來檢測:

  1. 如果項目基礎設施比較完善,那麼可以使用分散式鏈路追蹤系統來追蹤每一條消息。
  2. 如果項目初期,系統剛上線,那麼可以利用消息隊列的有序性來檢測是否有消息丟失。

我們可以在Producer端發出的每一條消息附加一個連續遞增的序號,然後在Consumer端檢測這個序號的連續性。如果沒有消息丟失,Consumer收到的消息的序號必然是連續遞增的,如果檢測到序號不連續,那麼就是丟消息了,還可以通過缺失的序號來確定丟失的是哪一條消息。

針對這種檢測方法,有3條建議:

  1. 像Kafka和RocketMQ這樣的消息隊列,它不保證消息在Topic上的嚴格順序,只能保證消息在分區(隊列)上是有序的,所以我們在發消息的時候必須要指定分區,並且每個分區單獨檢測消息序號的連續性。
  2. 如果系統中有多個Producer實例,並且不好協調多個Producer之間的發送順序,那麼也需要針對每個Producer分別生成各自的消息序號,並且需要附加上Producer標識,在Consumer端按照每個Producer分別來檢測序號的連續性。
  3. Consumer實例的數量最好和分區數量一致,做到Consumer和分區一一對應,這樣比較方便在Consumer內檢測消息序號的連續性。

消息可靠傳遞

一條消息從生產到消費完成的過程,可以分為三個階段:

  1. 生產階段:消息在Producer創建出來,經過網路傳輸到Broker端。
  2. 存儲階段:消息在Broker端存儲,如果是集群,消息還會被覆制到其他副本上。
  3. 消費階段:Consumer從Broker上拉取消息,經過網路傳輸到Consumer上。

消息生產階段

在生產階段,消息隊列最常用的是請求-確認機制,來保證消息的可靠傳遞:當代碼調用發消息方法時,消息隊列的客戶端會把消息發送到Broker,Broker收到消息後,會給客戶端返回一個確認響應,表示消息已經收到了。

只要Producer收到了Broker的確認響應,就可以保證消息在生產階段不會丟失。有的消息隊列會在長時間沒有收到發送確認響應後,自動重試,如果重試再失敗,就會以返回值或者異常的方式告知用戶。

消息存儲階段

在存儲階段正常情況下,只要Broker在正常運行,就不會出現丟失消息的問題,但是如果Broker出現了故障,還是有可能會丟消息。

如果對消息的可靠性要求非常高,可以通過配置Broker參數來避免因為宕機丟消息。

如果Broker是由多個節點組成的集群,那麼需要將Broker集群配置成:至少將消息發送到2個以上的節點後,再給客戶端回覆發送確認響應。

消息消費階段

消費階段採用和生產階段類似的請求-確認機制來保證消息的可靠傳遞,客戶端從Broker拉取消息後,執行用戶的消費業務邏輯,成功後,才會給Broker發送消費確認響應。

如果Borker沒有收到消費確認響應,下次拉消息時還會返回同一條消息,確保消息不回在網路傳輸過程中丟失,也不會因為客戶端在執行消費邏輯中出錯導致丟失。

我們需要註意,不要在收到消息後就立即發送消費確認,而是應該在執行完所有消費業務邏輯之後,再發送消費確認。

    作者:李潘     出處:http://wing011203.cnblogs.com/     本文版權歸作者和博客園共有,歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則保留追究法律責任的權利。
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 這個問題? 這個問題一般會出現在面試題裡面,然後回答一些諸如輪詢、WebSocket之類的答案。當然,實際開發中,也會遇到類似別人給你贊了,要通知給你的情況。這時服務端推送給Web前端(先局限在Web前端,畢竟其他端還有一些特殊方法)到底 ...
  • 項目中經常會碰到頁面自適應的問題,例如:商城的列表展示、分類列表展示等頁面,如下: 該頁面會隨著頁面的放大縮小而隨之發生變化,解決方法:display: flex;配合子元素的動態寬度來實現,子元素的寬度 = (總寬 - 自身的margin) / 每行的數量即可。 .box{ border: 1px ...
  • 前端中的觀察者模式(Observer Pattern),定義了對象之間的一種一對多的依賴關係,使得當一個對象狀態發生改變時,所有依賴於它的對象都能夠得到通知並自動更新。 在前端開發中,觀察者模式常被用來實現組件間的數據傳遞和事件處理。比如,當一個組件的狀態發生改變時,可以通過觀察者模式來通知其他組件 ...
  • Webix是Javascript庫 一種軟體產品 用於加速Web開發的 JavaScript UI庫和框架 Webix用於跨平臺 Web應用程式開發的JS框架 102個UI小部件和 功能豐富的CSS/HTML5 JavaScript控制項 開發商介紹 Webix團隊由由熱衷於創建高質量網路產品的專業人 ...
  • 前端路由的設置: Vue2路由(vue-router3) 安裝插件 npm i vue-router@3 router/index.js文件設置 import Vue from "vue"; import VueRouter from "vue-router"; Vue.use(VueRouter) ...
  • JavaScript中的發佈/訂閱模式(Pub/Sub)是一種常用的設計模式。它允許在應用程式中定義對象之間的一對多的依賴關係,當一個對象的狀態發生變化時,所有依賴於它的對象都會被通知和更新。 在發佈/訂閱模式中,有兩種類型的對象:發佈者和訂閱者。發佈者是事件的發出者,它通常維護一個事件列表,並且可 ...
  • 在各種場景的開發中Dialog組件的出現頻率都是非常高的,Dialog組件作為一個容器組件受容器內業務代碼複雜度的影響,代碼行數、變數及函數的定義可能會很多,這樣的組件就一定要考慮封裝使用,以保證主流程代碼的簡潔。下麵一起來看一下如何利用面向對象的思想來封裝它吧~ ...
  • w3c機構:規定網頁分成三個部分:結構、樣式、表現形式。 無序列表: (每個列表左側都有實心黑點,可以用css去掉) <ul> <li>列表1</li> <li>列表2</li> </ul> 快捷方式:ul>li*數量 tab <ul></ul>中只能嵌套<li></li> <li></li>之間相 ...
一周排行
    -Advertisement-
    Play Games
  • Dapr Outbox 是1.12中的功能。 本文只介紹Dapr Outbox 執行流程,Dapr Outbox基本用法請閱讀官方文檔 。本文中appID=order-processor,topic=orders 本文前提知識:熟悉Dapr狀態管理、Dapr發佈訂閱和Outbox 模式。 Outbo ...
  • 引言 在前幾章我們深度講解了單元測試和集成測試的基礎知識,這一章我們來講解一下代碼覆蓋率,代碼覆蓋率是單元測試運行的度量值,覆蓋率通常以百分比表示,用於衡量代碼被測試覆蓋的程度,幫助開發人員評估測試用例的質量和代碼的健壯性。常見的覆蓋率包括語句覆蓋率(Line Coverage)、分支覆蓋率(Bra ...
  • 前言 本文介紹瞭如何使用S7.NET庫實現對西門子PLC DB塊數據的讀寫,記錄了使用電腦模擬,模擬PLC,自至完成測試的詳細流程,並重點介紹了在這個過程中的易錯點,供參考。 用到的軟體: 1.Windows環境下鏈路層網路訪問的行業標準工具(WinPcap_4_1_3.exe)下載鏈接:http ...
  • 從依賴倒置原則(Dependency Inversion Principle, DIP)到控制反轉(Inversion of Control, IoC)再到依賴註入(Dependency Injection, DI)的演進過程,我們可以理解為一種逐步抽象和解耦的設計思想。這種思想在C#等面向對象的編 ...
  • 關於Python中的私有屬性和私有方法 Python對於類的成員沒有嚴格的訪問控制限制,這與其他面相對對象語言有區別。關於私有屬性和私有方法,有如下要點: 1、通常我們約定,兩個下劃線開頭的屬性是私有的(private)。其他為公共的(public); 2、類內部可以訪問私有屬性(方法); 3、類外 ...
  • C++ 訪問說明符 訪問說明符是 C++ 中控制類成員(屬性和方法)可訪問性的關鍵字。它們用於封裝類數據並保護其免受意外修改或濫用。 三種訪問說明符: public:允許從類外部的任何地方訪問成員。 private:僅允許在類內部訪問成員。 protected:允許在類內部及其派生類中訪問成員。 示 ...
  • 寫這個隨筆說一下C++的static_cast和dynamic_cast用在子類與父類的指針轉換時的一些事宜。首先,【static_cast,dynamic_cast】【父類指針,子類指針】,兩兩一組,共有4種組合:用 static_cast 父類轉子類、用 static_cast 子類轉父類、使用 ...
  • /******************************************************************************************************** * * * 設計雙向鏈表的介面 * * * * Copyright (c) 2023-2 ...
  • 相信接觸過spring做開發的小伙伴們一定使用過@ComponentScan註解 @ComponentScan("com.wangm.lifecycle") public class AppConfig { } @ComponentScan指定basePackage,將包下的類按照一定規則註冊成Be ...
  • 操作系統 :CentOS 7.6_x64 opensips版本: 2.4.9 python版本:2.7.5 python作為腳本語言,使用起來很方便,查了下opensips的文檔,支持使用python腳本寫邏輯代碼。今天整理下CentOS7環境下opensips2.4.9的python模塊筆記及使用 ...