一文讀懂SpringCloud與Eureka,Feign,Ribbon,Hystrix,Zuul核心組件間的關係

来源:https://www.cnblogs.com/zhaosq/archive/2019/03/18/10530770.html
-Advertisement-
Play Games

概述 毫無疑問,Spring Cloud是目前微服務架構領域的翹楚,無數的書籍博客都在講解這個技術。不過大多數講解還停留在對Spring Cloud功能使用的層面,其底層的很多原理,很多人可能並不知曉。因此本文將通過大量的手繪圖,給大家談談Spring Cloud微服務架構的底層原理。實際上,Spr ...


概述

   毫無疑問,Spring Cloud是目前微服務架構領域的翹楚,無數的書籍博客都在講解這個技術。不過大多數講解還停留在對Spring Cloud功能使用的層面,其底層的很多原理,很多人可能並不知曉。因此本文將通過大量的手繪圖,給大家談談Spring Cloud微服務架構的底層原理。

實際上,Spring Cloud是一個全家桶式的技術棧,包含了很多組件。本文先從其最核心的幾個組件入手,來剖析一下其底層的工作原理。也就是EurekaRibbonFeignHystrixZuul這幾個組件。

一、業務場景介紹

先來給大家說一個業務場景,假設咱們現在開發一個電商網站,要實現支付訂單的功能,流程如下:

  • 創建一個訂單之後,如果用戶立刻支付了這個訂單,我們需要將訂單狀態更新為“已支付”

  • 扣減相應的商品庫存

  • 通知倉儲中心,進行發貨

  • 給用戶的這次購物增加相應的積分

針對上述流程,我們需要有訂單服務、庫存服務、倉儲服務、積分服務。整個流程的大體思路如下:

  • 用戶針對一個訂單完成支付之後,就會去找訂單服務,更新訂單狀態

  • 訂單服務調用庫存服務,完成相應功能

  • 訂單服務調用倉儲服務,完成相應功能

  • 訂單服務調用積分服務,完成相應功能

至此,整個支付訂單的業務流程結束

下圖這張圖,清晰表明瞭各服務間的調用過程:

好!有了業務場景之後,咱們就一起來看看Spring Cloud微服務架構中,這幾個組件如何相互協作,各自發揮的作用以及其背後的原理。

二、Spring Cloud核心組件:Eureka

咱們來考慮第一個問題:訂單服務想要調用庫存服務、倉儲服務,或者是積分服務,怎麼調用?

  • 訂單服務壓根兒就不知道人家庫存服務在哪台機器上啊!他就算想要發起一個請求,都不知道發送給誰,有心無力!

  • 這時候,就輪到Spring Cloud Eureka出場了。Eureka是微服務架構中的註冊中心,專門負責服務的註冊與發現。

 咱們來看看下麵的這張圖,結合圖來仔細剖析一下整個流程: 

如上圖所示,庫存服務、倉儲服務、積分服務中都有一個Eureka Client組件,這個組件專門負責將這個服務的信息註冊到Eureka Server中。說白了,就是告訴Eureka Server,自己在哪台機器上,監聽著哪個埠。而Eureka Server是一個註冊中心,裡面有一個註冊表,保存了各服務所在的機器和埠號

 

訂單服務里也有一個Eureka Client組件,這個Eureka Client組件會找Eureka Server問一下:庫存服務在哪台機器啊?監聽著哪個埠啊?倉儲服務呢?積分服務呢?然後就可以把這些相關信息從Eureka Server的註冊表中拉取到自己本地緩存起來。

 

這時如果訂單服務想要調用庫存服務,不就可以找自己本地的Eureka Client問一下庫存服務在哪台機器?監聽哪個埠嗎?收到響應後,緊接著就可以發送一個請求過去,調用庫存服務扣減庫存的那個介面!同理,如果訂單服務要調用倉儲服務、積分服務,也是如法炮製。

總結一下:

  • Eureka Client:負責將這個服務的信息註冊到Eureka Server中

  • Eureka Server:註冊中心,裡面有一個註冊表,保存了各個服務所在的機器和埠號

三、Spring Cloud核心組件:Feign

現在訂單服務確實知道庫存服務、積分服務、倉庫服務在哪裡了,同時也監聽著哪些埠號了。但是新問題又來了:難道訂單服務要自己寫一大堆代碼,跟其他服務建立網路連接,然後構造一個複雜的請求,接著發送請求過去,最後對返回的響應結果再寫一大堆代碼來處理嗎?

這是上述流程翻譯的代碼片段,咱們一起來看看,體會一下這種絕望而無助的感受!!!

友情提示,前方高能:

看完上面那一大段代碼,有沒有感到後背發涼、一身冷汗?實際上你進行服務間調用時,如果每次都手寫代碼,代碼量比上面那段要多至少幾倍,所以這個事兒壓根兒就不是地球人能幹的。

既然如此,那怎麼辦呢?別急,Feign早已為我們提供好了優雅的解決方案。來看看如果用Feign的話,你的訂單服務調用庫存服務的代碼會變成啥樣?

看完上面的代碼什麼感覺?是不是感覺整個世界都乾凈了,又找到了活下去的勇氣!沒有底層的建立連接、構造請求、解析響應的代碼,直接就是用註解定義一個 FeignClient介面,然後調用那個介面就可以了。人家Feign Client會在底層根據你的註解,跟你指定的服務建立連接、構造請求、發起靕求、獲取響應、解析響應,等等。這一系列臟活累活,人家Feign全給你幹了。

那麼問題來了,Feign是如何做到這麼神奇的呢?很簡單,Feign的一個關鍵機制就是使用了動態代理。咱們一起來看看下麵的圖,結合圖來分析:

  • 首先,如果你對某個介面定義了@FeignClient註解,Feign就會針對這個介面創建一個動態代理

  • 接著你要是調用那個介面,本質就是會調用 Feign創建的動態代理,這是核心中的核心

  • Feign的動態代理會根據你在介面上的@RequestMapping等註解,來動態構造出你要請求的服務的地址

  • 最後針對這個地址,發起請求、解析響應

四、Spring Cloud核心組件:Ribbon

說完了Feign,還沒完。現在新的問題又來了,如果人家庫存服務部署在了5台機器上,如下所示:

  • 192.168.169:9000

  • 192.168.170:9000

  • 192.168.171:9000

  • 192.168.172:9000

  • 192.168.173:9000

這下麻煩了!人家Feign怎麼知道該請求哪台機器呢?

這時Spring Cloud Ribbon就派上用場了。Ribbon就是專門解決這個問題的。它的作用是負載均衡,會幫你在每次請求時選擇一臺機器,均勻的把請求分發到各個機器上

Ribbon的負載均衡預設使用的最經典的Round Robin輪詢演算法。這是啥?簡單來說,就是如果訂單服務對庫存服務發起10次請求,那就先讓你請求第1台機器、然後是第2台機器、第3台機器、第4台機器、第5台機器,接著再來—個迴圈,第1台機器、第2台機器。。。以此類推。

 此外,Ribbon是和Feign以及Eureka緊密協作,完成工作的,具體如下:

  • 首先Ribbon會從 Eureka Client里獲取到對應的服務註冊表,也就知道了所有的服務都部署在了哪些機器上,在監聽哪些埠號。

  • 然後Ribbon就可以使用預設的Round Robin演算法,從中選擇一臺機器

  • Feign就會針對這台機器,構造併發起請求。

對上述整個過程,再來一張圖,幫助大家更深刻的理解:

五、Spring Cloud核心組件:Hystrix

在微服務架構里,一個系統會有很多的服務。以本文的業務場景為例:訂單服務在一個業務流程里需要調用三個服務。現在假設訂單服務自己最多只有100個線程可以處理請求,然後呢,積分服務不幸的掛了,每次訂單服務調用積分服務的時候,都會卡住幾秒鐘,然後拋出—個超時異常。

咱們一起來分析一下,這樣會導致什麼問題?

  • 如果系統處於高併發的場景下,大量請求涌過來的時候,訂單服務的100個線程都會卡在請求積分服務這塊。導致訂單服務沒有一個線程可以處理請求

  • 然後就會導致別人請求訂單服務的時候,發現訂單服務也掛了,不響應任何請求了

上面這個,就是微服務架構中恐怖的服務雪崩問題,如下圖所示:

如上圖,這麼多服務互相調用,要是不做任何保護的話,某一個服務掛了,就會引起連鎖反應,導致別的服務也掛。比如積分服務掛了,會導致訂單服務的線程全部卡在請求積分服務這裡,沒有一個線程可以工作,瞬間導致訂單服務也掛了,別人請求訂單服務全部會卡住,無法響應。

但是我們思考一下,就算積分服務掛了,訂單服務也可以不用掛啊!為什麼?

  • 我們結合業務來看:支付訂單的時候,只要把庫存扣減了,然後通知倉庫發貨就OK了

  • 如果積分服務掛了,大不了等他恢復之後,慢慢人肉手工恢複數據!為啥一定要因為一個積分服務掛了,就直接導致訂單服務也掛了呢?不可以接受! 

 

現在問題分析完了,如何解決?

這時就輪到Hystrix閃亮登場了。Hystrix是隔離、熔斷以及降級的一個框架。啥意思呢?說白了,Hystrix會搞很多個小小的線程池,比如訂單服務請求庫存服務是一個線程池,請求倉儲服務是一個線程池,請求積分服務是一個線程池。每個線程池裡的線程就僅僅用於請求那個服務。

 

打個比方:現在很不幸,積分服務掛了,會咋樣?

 

當然會導致訂單服務里的那個用來調用積分服務的線程都卡死不能工作了啊!但是由於訂單服務調用庫存服務、倉儲服務的這兩個線程池都是正常工作的,所以這兩個服務不會受到任何影響。

 

這個時候如果別人請求訂單服務,訂單服務還是可以正常調用庫存服務扣減庫存,調用倉儲服務通知發貨。只不過調用積分服務的時候,每次都會報錯。但是如果積分服務都掛了,每次調用都要去卡住幾秒鐘幹啥呢?有意義嗎?當然沒有!所以我們直接對積分服務熔斷不就得了,比如在5分鐘內請求積分服務直接就返回了,不要去走網路請求卡住幾秒鐘,這個過程,就是所謂的熔斷!

 

那人家又說,兄弟,積分服務掛了你就熔斷,好歹你乾點兒什麼啊!別啥都不幹就直接返回啊?沒問題,咱們就來個降級:每次調用積分服務,你就在資料庫里記錄一條消息,說給某某用戶增加了多少積分,因為積分服務掛了,導致沒增加成功!這樣等積分服務恢復了,你可以根據這些記錄手工加一下積分。這個過程,就是所謂的降級。

 

為幫助大家更直觀的理解,接下來用一張圖,梳理一下Hystrix隔離、熔斷和降級的全流程:

六、Spring Cloud核心組件:Zuul

說完了Hystrix,接著給大家說說最後一個組件:Zuul,也就是微服務網關。這個組件是負責網路路由的。不懂網路路由?行,那我給你說說,如果沒有Zuul的日常工作會怎樣?

 

假設你後臺部署了幾百個服務,現在有個前端兄弟,人家請求是直接從瀏覽器那兒發過來的。打個比方:人家要請求一下庫存服務,你難道還讓人家記著這服務的名字叫做inventory-service?部署在5台機器上?就算人家肯記住這一個,你後臺可有幾百個服務的名稱和地址呢?難不成人家請求一個,就得記住一個?你要這樣玩兒,那真是友誼的小船,說翻就翻!

 

上面這種情況,壓根兒是不現實的。所以一般微服務架構中都必然會設計一個網關在裡面,像android、ios、pc前端、微信小程式、H5等等,不用去關心後端有幾百個服務,就知道有一個網關,所有請求都往網關走,網關會根據請求中的一些特征,將請求轉發給後端的各個服務。

 

而且有一個網關之後,還有很多好處,比如可以做統一的降級、限流、認證授權、安全,等等。

 

七、總結

最後再來總結一下,上述幾個Spring Cloud核心組件,在微服務架構中,分別扮演的角色:

 

  • Eureka:各個服務啟動時,Eureka Client都會將服務註冊到Eureka Server,並且Eureka Client還可以反過來從Eureka Server拉取註冊表,從而知道其他服務在哪裡

  • Ribbon:服務間發起請求的時候,基於Ribbon做負載均衡,從一個服務的多台機器中選擇一臺

  • Feign:基於Feign的動態代理機制,根據註解和選擇的機器,拼接請求URL地址,發起請求

  • Hystrix:發起請求是通過Hystrix的線程池來走的,不同的服務走不同的線程池,實現了不同服務調用的隔離,避免了服務雪崩的問題

  • Zuul:如果前端、移動端要調用後端系統,統一從Zuul網關進入,由Zuul網關轉發請求給對應的服務

 

以上就是我們通過一個電商業務場景,闡述了Spring Cloud微服務架構幾個核心組件的底層原理。

 

文字總結還不夠直觀?沒問題!我們將Spring Cloud的5個核心組件通過一張圖串聯起來,再來直觀的感受一下其底層的架構原理:

如有收穫,請幫忙轉發,您的鼓勵是作者最大的動力,謝謝!

好文轉載學習自https://www.cnblogs.com/cate/java/


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 數組 數組 1.數組:數組是一組數據(數據類型不限,任意)的有序集合 >我們寫代碼,一般一個數組只放一種數據類型的數據 2.我們寫代碼,一般一個數組只放一種類型的數據 3.註意: 大多數的語言裡面數組的存儲是連續的,但是js的數組特點決定了js的數組不一定是連續的。 數組的特點 1.作用:將許多零散 ...
  • 問:JavaScript 如何查找對象中某個 value 並返迴路徑上所有的 key? 有例如上面這樣一個對象,要求封裝一個函數,傳入對象和某個 value,返回該 value 路徑上的 key。比如:searchKeys(obj, "str3"),得到 "key3, key2"。—— 來源於 @z ...
  • 一、Angular2框架的開發語言 Angular2是谷歌開發的一套前端框架,Angular2就是用Typescript語言的寫的。因此,Typescript語言幫你更好的學習angular2框架。 二、支持ES6 Typescript支持ES6規範的語言,ES6規範指出未來客戶端腳本語言的發展方向 ...
  • 這兩天剛把適配器模式與外觀模式學習了一遍,記錄一下自己在學習中的思考。 適配器設計模式與外觀設計模式所涉及到的一個設計原則: 最少知識原則:不要讓太多的類耦合在一起,以免當修改了某一部分後,會影響到其他部分。 對於任何對象而言,在該對象的方法內,其中最少所指的範圍: 1. 該對象本身; 2.被當作方 ...
  • 題意 "題目鏈接" Sol yy出了一個暴躁線段樹的做法。 因為題目保證了 $a_i + k_i define Pair pair define MP(x, y) make_pair(x, y) define fi first define se second define int long lon ...
  • 先給出十轉二的除法 2 60 30 0 15 0 7 1 3 1 1 1 0 1 60轉二 111100 再介紹位運算符 a=60 b=13 A = 0011 1100 B = 0000 1101 A&b = 0000 1100A | B = 0011 1101A ^ B = 0011 0001~A ...
  • 前言 開心一刻 周末,帶著老婆兒子一起逛公園。兒子一個人跑在前面,吧唧一下不小心摔了一跤,腦袋瓜子摔了個包,稀里嘩啦的哭道:“爸爸,我會不會摔成傻子!” 我指了指我頭上的傷痕安慰道:“不會的,你看,這是爸爸小時候摔的。” 話還沒有說話,小家伙哭的更厲害了:“那就是說我長大後就會和你一樣傻了,我不要, ...
  • Java併發包提供了很多線程安全的集合,有了他們的存在,使得我們在多線程開發下,可以和單線程一樣去編寫代碼,大大簡化了多線程開發的難度,但是如果不知道其中的原理,可能會引發意想不到的問題,所以知道其中的原理還是很有必要的。 今天我們來看下Java併發包中提供的線程安全的List,即CopyOnWri ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...