面試官:說出八種消息隊列的應用場景。啊?八種?

来源:https://www.cnblogs.com/liuyanling/archive/2020/05/23/12944947.html
-Advertisement-
Play Games

本文來源於公眾號:胖滾豬學編程。轉載請註明出處! 一個風度翩翩,穿著格子襯衣的中年男子,拿著一個滿是劃痕的mac向她走來,看著錚亮的頭,胖滾豬心想,這肯定是尼瑪頂級架構師吧!完了要掛了。 結果面試官第一個問題,就讓胖滾豬內心暗喜 面試官 :消息隊列這東西,你還熟悉吧?消息隊列在企業中的應用場景有哪些 ...


本文來源於公眾號:胖滾豬學編程。轉載請註明出處!

_1

一個風度翩翩,穿著格子襯衣的中年男子,拿著一個滿是劃痕的mac向她走來,看著錚亮的頭,胖滾豬心想,這肯定是尼瑪頂級架構師吧!完了要掛了。

結果面試官第一個問題,就讓胖滾豬內心暗喜

面試官:消息隊列這東西,你還熟悉吧?消息隊列在企業中的應用場景有哪些?

(這麼基礎的問題,手到擒來好嗎?原來阿裡不過如此。)

胖滾豬:嗯嗯,還挺熟悉的,可以用於流量削峰、應用解耦、非同步處理。

面試官:就這三種嗎?能不能再多說幾個應用。起碼八種吧。

(胖滾豬火冒三丈,尼瑪八種哪來的?玩我呢?但是出於禮貌,還是畢恭畢敬的回答面試官)

胖滾豬:額。。有這麼多嗎?不好意思,一時之間想不起來了呢。

面試官:哎。。大家都知道的我們不屑,就想聽聽不一樣的。回家去吧

胖滾豬內心挫敗,平時五毛錢都捨不得花的摳豬,豪擲100大洋打了飛車來到導師胖滾熊家裡求助。

_2

胖滾熊:我先給你歸納了消息隊列八種場景,如圖所示,接下來我們再仔細說說每種場景的應用方案。

image

首先還是要介紹一下流量削峰、應用解耦、非同步處理的具體應用,雖然網上文章到處都有,不過畢竟它們是老大,老大不出場小二也不敢亂動。如果你很熟悉了,可以直接跳過!

應用解耦:

某電商系統架構如圖,用戶下單之後首先進入訂單系統,之後訂單系統又將訂單信息發送給物流系統和簡訊系統:
image
碼農胖滾豬很快就寫完了相關代碼:

        OrderInfo orderInfo = new OrderInfo();
        //省略組裝訂單信息
        sendToMessage(orderInfo);//發送給簡訊系統
        sendToLogistics(orderInfo);//發送給物流系統

一切就這麼平安無事過了大半月,領導又要搞啥實時大屏,實時展示當天訂單量,於是訂單系統又要將訂單信息發送給實時大屏系統
image

也沒關係,碼農胖滾豬又改了訂單系統的代碼,重新上線:

        OrderInfo orderInfo = new OrderInfo();
        //省略組裝訂單信息
        sendToMessage(orderInfo);//發送給簡訊系統
        sendToLogistics(orderInfo);//發送給物流系統
        sendToRealTimeSys();//發送給實時分析系統

隨著公司業務的壯大,訂單信息又要發送給監控系統、數據挖掘系統。。。這會胖滾豬不淡定了“到底何時是個頭呀!”

不僅如此,一旦下游某個系統異常,直接導致訂單系統也異常了,時常收到顧客的投訴 “你們這電商系統!不用了!”

嗨,胖滾豬,早知如此何必當初呢?在1.0版本你就不應該讓系統之間相耦合呀!如圖:

image

訂單系統只管將訂單信息發到消息隊列中,其他系統都從消息隊列中拿數據。這樣一來:

1、訂單系統再也不用關心誰要用了,即使增加、減少下游系統或是下游系統需求如何變化,訂單服務都無需做任何更改,實現了訂單服務與下游服務的解耦!可以一個人自由飛翔了~
2、其他系統即便掛了或者請求超時,都跟訂單系統無關,只跟消息隊列有關。

哇,這樣真是太爽了!和花錢一樣爽!

非同步處理

最近胖滾豬負責的用戶系統一直被投訴,原因是太慢了!點擊確認註冊之後要1s才返回結果。你看看人家阿裡的系統,點擊註冊10ms就可以返回結果了!

可是胖滾豬表示很無能為力,註冊之後要寫資料庫、要發簡訊、還要發郵件,你讓我怎麼快呢?阿裡的機器比我們好,才比我們快的!
image

嗨,胖滾豬,你可別把鍋甩給機器啊,明明是你自己的設計缺陷吶,看我給你改改:
image

這樣是不是覺得清爽了很多呢??

註冊是主要的業務,而發簡訊和郵件通知用戶已經註冊成功是非主要的業務,甚至無關緊要,何必讓無關的東西影響主要的東西呢?
假設三個業務節點每個使用100ms,不考慮網路等其他開銷,則串列方式的時間是300ms,並行的時間可能是150ms。
透心涼心飛揚,這回省了不少時間,可以用來撩妹了。

流量削峰

胖滾豬在公司平安無事的呆了大半年,睡覺從沒被電話騷擾,直到2020.5.20這天,xx明星po出結婚照,瞬間幾千萬的流量,撐爆了微博,而明星同款520T恤的熱賣,也瞬間壓垮了胖滾豬的電商系統。

胖滾豬好吃好喝大半年,沒想到好日子還是終結了,半夜爬起來處理伺服器故障,第二天無精打采的,太難受了。。

嗨,胖滾豬,早知如此,當初就應該考慮仔細呀!一個電商系統,秒殺場景是遲早會出現的!

上下游對於事情的處理能力是不同的。比如,Web前端每秒承受上千萬的請求,並不是什麼神奇的事情。但資料庫的處理能力卻十分有限,即使使用SSD加分庫分表,單機的處理能力仍然在萬級。由於成本的考慮,我們不能奢求資料庫的機器數量追上前端。所以,利用中間系統轉儲兩個系統的通信內容,併在下游系統有能力處理這些消息的時候,再處理這些消息,是一套相對較通用的方式。

我們需要設計一套足夠健壯的架構來將後端的服務保護起來。設計思路是,使用消息隊列隔離網關和後端服務,以達到流量控制和保護後端服務的目的。

我再給你畫張圖吧:
image

這樣一來,用戶的請求,伺服器接收後,首先寫入消息隊列。假如消息隊列長度超過最大數量,則直接拋棄用戶請求或跳轉到錯誤頁面。而業務系統根據消息隊列中的請求信息,再做後續處理。

這種設計的優點是:能根據下游的處理能力自動調節流量,達到“削峰填谷”的作用

任務依賴

胖滾豬的公司有了高大上的數據中台,其中一個子系統叫做數據同步,只需要在前端頁面勾選表,就可以自助化完成mysql到hive的同步。

但其中有個節點是工單審核。在同步系統中發起表同步申請,首先會調用工單系統,領導層在工單系統審核成功後,同步系統才可以完成接下來的同步任務。最開始,胖滾豬是這麼設計的:

image

同步系統啟了一個定時任務,每五分鐘去查一下工單系統的介面,拿到審核結果。這種做法完全可行。

可是業務人員小甲不幹了,小甲是個急性子,他覺得太慢了!提個需求:必須要準實時!即領導審核成功後你要馬上給我同步!

這時候,胖滾豬又想到了消息隊列,靈機一動,有了2.0優化版本:

image

這下,小甲這種急性子也不用不耐煩了,只要領導一批准,馬上同步系統就會開始工作!

廣播

胖滾豬加入產品中心的第一天,就給了它一個任務:產品中心需要頻繁發佈產品變更,而關心產品的系統多達10來個。每次變更,都要聯調一次新介面,實在是太!麻!煩!了!

胖滾豬分析了一下,這就好像你媽喊你吃飯、還要喊你爸吃飯、喊你爺吃飯,她需要單獨給你們每個人發微信通知,有點麻煩。可是如果她直接在家族群@你們,就把消息廣播給大家了!

同理,產品系統相當於也要實現一個廣播的功能,產品變動之後需要廣播給其他系統。有了之前的經驗,很快想到了可以用消息隊列來實現。

在這裡,消息隊列就像我們的微信群一樣,有了消息隊列,我們只需要關心消息是否送達了隊列,至於誰關心它誰希望去訂閱,是下游的事情,無疑極大地減少了開發和聯調的工作量。

數據採集

胖滾豬又接了個數據採集的活,1、需要實時收集日誌、2、需要實時採集業務庫binlog。

經過一番調研,胖滾豬明白了,採集binlog一般用到canal、採集日誌一般可以用Flume和Logstash。

那麼採集之後數據丟到哪兒呢?胖滾豬看了看官方架構圖,咦,又有熟悉的消息隊列,原來消息隊列也可以用來數據採集呀!

image

image

所有主流的採集工具,都支持落地到Kafka等消息隊列。也就是說,消息隊列在數據採集這一塊,也有舉足輕重的作用。當然了,也不是必須要選擇消息隊列,要根據具體場景來選擇。如果要對接流計算任務,或者多個系統都需要用到採集到的數據,那麼選消息隊列就沒錯了;如果只是想單純存儲起來,比如一些日誌,那麼可以不用消息隊列。

連接流計算任務和數據

用消息隊列(主要指Kafka)來連接流計算任務和數據,這在大數據領域是非常通用的一個架構了。火爆的流計算框架,Flink和Spark都優先選擇Kafka作為數據源頭並提供了完美的支持。

我們看一下oppo的架構圖、簡直了。三次用到Kafka!這地位無敵了!為啥oppo要三次用到Kafka呢?我相信根據上面的應用場景和優勢你完全可以自行分析出來!

image

消息通訊

最後說一下消息通訊。。消息隊列可以應用在消息通訊中,比如聊天室。

你可能會吐槽,你這不廢話嗎?湊數呢?我當然知道消息隊列可用於消息通訊,小學生看名字都知道!

額,其實我只是想說明一下消息隊列在消息通訊的兩種場景罷了:點對點模型和發佈訂閱模型。

點對點通訊:系統 A 發送的消息只能被系統 B 接收,其他任何系統都不能讀取 A 發送的消息。日常生活的例子比如電話客服就屬於這種模型:同一個客戶呼入電話只能被一位客服人員處理,第二個客服人員不能為該客戶服務。
image

發佈 / 訂閱模型:與上面不同的是,它有一個主題(Topic)的概念,這個模型可能存在多個發佈者向相同的主題發送消息,而訂閱者也可能存在多個,它們都能接收到相同主題的消息。生活中的報紙訂閱就是一種典型的發佈 / 訂閱模型。
image

勁酒雖好,可不要貪杯哦

消息隊列確實有著非常廣泛的應用,但它也有缺點!勁酒雖好,可不要貪杯哦,貪杯會出問題的哦!

  • 消息隊列會帶來一定的延遲問題;
  • 降低了數據的一致性;如果要保證強一致性則需要高代價的補償,如分散式事務、對賬。
  • 有數據丟失的風險;比如宕機重啟,如果要保證高可用需要額外的機制如雙活容災。

因此:

  • 不適合要求實時響應的系統、
  • 不適合要求數據強一致性的系統(比如直接和錢有關係的系統 銀行轉賬 第三方支付)、
  • 不適合不能容忍數據丟失的系統

本文來源於公眾號:胖滾豬學編程。一枚集顏值與才華於一身的女程式媛。用漫畫形式讓編程so easy and interesting!求關註!
本文來源於公眾號【胖滾豬學編程】一個集顏值與才華於一身的女程式媛。以漫畫形式讓編程so easy and interesting。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • k3s介紹 K3S是一個輕量級的K8S集群,它是Rancher Lab開發的一個新的產品, 目的是在資源有限的設備上面跑K8S。它的最大特點就是小,二進位包只有40MB,只需要512MB的記憶體就能跑起來。K3S目的是在一些資源受限的設備上面把Kubernetes跑起來,主要的應用場景包括Edge,I ...
  • Linux 下三種提高工作效率的文件處理技巧 在 Linux 下工作,打交道最多的就是文件了,畢竟 Linux 下工作一切皆文件嘛。Linux 也為大家提供了多種用於處理文件的命令,合理使用這些命令可以大大節省你的時間,並讓我們的工作負擔不再那麼沉重。 尋找文件的技巧 當我們查找文件時,第一時間想到 ...
  • Mac 安裝 homebrew: /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" 報錯: Failed to connect to raw.githu ...
  • 在docker容器里運行的服務必須前臺運行,如果後臺運行會導致容器一啟動就退出了,原因是容器內部本身就只有一個進程在跑,如果你後臺運行,就沒有進程在前臺,所以docker會認為該容器已經宕機;其實我們可以理解為容器內部前臺跑的程式是支撐整個容器為運行態的重要骨架; ...
  • Device Tree Overlays、 dtbo、設備樹堆疊功能 ...
  • 前期準備 執行yum update openssh先升級下. 反正官方提供的這種升級是沒問題的。如果之前手動編譯操作過openssh的升級,變更了預設配置文件路徑什麼的請自行測試。) (這裡準備統一openssh版本為7.4p1之後再統一編譯安裝升級到openssh8.2p1) [root@node ...
  • pwd命令 功能說明:顯示當前用戶所在的工作目錄 用法:pwd [OPTION]... 當我們登錄操作系統時,我們就會處在某個目錄中,windows為桌面,在Linux操作系統中,如果我們以root用戶登錄,我們會處在root用戶的家目錄,如果以普通用戶登錄,我們會處在普通用戶的家目錄。 | 選項 ...
  • HBase為每個Region維護一個狀態,並將該狀態保留在hbase:meta中。hbase:meta 本身的Region狀態保留在ZooKeeper中。可以在Master Web UI中查看Region的過渡狀態。以下是可能的Region狀態列表。 1. 狀態機中包括下麵幾種狀態: offline ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...