Spring Cloud微服務核心架構分析

Spring Cloud是一個相對比較成熟的微服務框架。雖然，Spring Cloud於2016年才推出1.0的release版本, 時間最短, 但是相比Dubbo等RPC框架, Spring Cloud提供的全套的分散式系統解決方案。

Spring Cloud是一系列框架的有序集合。它利用Spring Boot的開發便利性巧妙地簡化了分散式系統基礎設施的開發，如服務發現註冊、配置中心、消息匯流排、負載均衡、斷路器、數據監控等，都可以用Spring Boot的開發風格做到一鍵啟動和部署。

基於Spring這艘大船，Spring Cloud幾乎是Java開發人員必備的技能！

Spring並沒有重覆製造輪子，它只是將目前各家公司(主要是 Netflix )開發的比較成熟、經得起實際考驗的服務框架組合起來，通過Spring Boot風格進行再封裝屏蔽掉了複雜的配置和實現原理，最終給開發者留出了一套簡單易懂、易部署和易維護的分散式系統開發工具包。

Spring Cloud 的核心組件

1. Eureka（註冊中心）

Eureka 是 Spring Cloud 微服務架構中的註冊中心，專門負責服務的註冊與發現,裡面有一個註冊表,保存了各個伺服器的 機器和埠。

• Eureka服務端：也稱服務註冊中心，同其他服務註冊中心一樣，支持高可用配置。如果Eureka以集群模式部署，當集群中有分片出現故障時，那麼Eureka就轉入自我保護模式。它允許在分片故障期間繼續提供服務的發現和註冊，當故障分片恢復運行時，集群中其他分片會把它們的狀態再次同步回來。
• Eureka客戶端：主要處理服務的註冊與發現。客戶端服務通過註解和參數配置的方式，嵌入在客戶端應用程式的代碼中，在應用程式運行時，Eureka客戶端想註冊中心註冊自身提供的服務並周期性地發送心跳來更新它的服務租約。同時，它也能從服務端查詢當前註冊的服務信息並把它們緩存到本地並周期性地刷新服務狀態。

Eureka Server 的高可用實際上就是將自己作為服務向其他註冊中心註冊自己，這樣就可以形成一組互相註冊的服務註冊中心，以實現服務清單的互相同步，達到高可用效果。

2. Zuul（服務網關）

Zuul網關負責轉發請求給對應的服務，這個組件是負責網路路由的。

1. Spring Cloud Zuul通過與Spring Cloud Eureka進行整合，將自身註冊為Eureka服務治理下的應用，同時從Eureka中獲得了所有其他微服務的實例信息。

2. 對於路由規則的維護，Zuul預設會將通過以服務名作為ContextPath的方式來創建路由映射Zuul提供了一套過濾器機制，可以支持在API網關無附上進行統一調用來對微服務介面做前置過濾，已實現對微服務介面的攔截和校驗。

3. Ribbon（負載均衡）

提供雲端負載均衡，有多種負載均衡策略可供選擇，可配合服務發現和斷路器使用。

1. Ribbon是一個基於HTTP和TCP的客戶端負載均衡器，它可以在通過客戶端中配置的ribbonServerList服務端列表去輪詢訪問以達到服務均衡的作用。

2. 當Ribbon和Eureka聯合使用時，Ribbon的服務實例清單RibbonServerList會被DiscoveryEnabledNIWSServerList重寫，擴展成從Eureka註冊中心中獲取服務端列表。同時它也會用NIWSDiscoveryPing來取代IPing，它將職責委托給Eureka來去定服務端是否已經啟動。

3. 在客戶端負載均衡中，所有客戶端節點都維護著自己要訪問的服務端清單，而這些服務端的清單來自於服務註冊中心（比如Eureka）。在客戶端負載均衡中也需要心跳去維護服務端清單的健康性，只是這個步驟需要與服務註冊中心配合完成。

通過Spring Cloud Ribbon的封裝，我們在微服務架構中使用客戶端負載均衡調用只需要如下兩步：

• 服務提供者只需要啟動多個服務實例並且註冊到一個註冊中心或是多個相關聯的服務註冊中心。

• 服務消費者直接通過調用被@LoadBalanced註解修飾過的RestTemplate來實現面向服務的介面調用。

4. Hystrix（熔斷保護器）

熔斷器，容錯管理工具，旨在通過熔斷機制控制服務和第三方庫的節點,從而對延遲和故障提供更強大的容錯能力。

提供線程池不同的服務走不同的線程池，實現了不同服務調用的隔離，避免了伺服器雪崩的問題。

在微服務架構中，存在著那麼多的服務單元，若一個單元出現故障，就很容易因依賴關係而引發故障的蔓延，最終導致整個系統的癱瘓，這樣的架構相較傳統架構更加不穩定。為瞭解決這樣的問題，產生了斷路器等一系列的服務保護機制。

在分散式架構中，當某個服務單元發生故障之後，通過斷路器的故障監控，向調用方返回一個錯誤響應，而不是長時間的等待。這樣就不會使得線程因調用故障服務被長時間占用不釋放，避免了故障在分散式系統中的蔓延。

Hystrix具備服務降級、服務熔斷、線程和信號隔離、請求緩存、請求合併以及服務監控等強大功能。

Hystrix使用艙壁模式實現線程池的隔離，它會為每一個依賴服務創建一個獨立的線程池，這樣就算某個依賴服務出現延遲過高的情況，也只是對該依賴服務的調用產生影響，而不會拖慢其他的依賴服務。

5. Feign（REST轉換器）

基於動態代理機制，根據註解和選擇的機器，拼接請求url地址，發起請求。Feign的關鍵機制是使用了動態代理。

• 首先，對某個介面定義了@FeignClient註解，Feign就會針對這個介面創建一個動態代理。

• 接著調用介面的時候，本質就是調用Feign創建的動態代理。

• Feign的動態代理會根據在介面上的@RequestMapping等註解，來動態構造要請求的服務的地址。

• 針對這個地址，發起請求、解析響應。

Feign是和Ribbon以及Eureka緊密協作的

• 首先Ribbon會從Eureka Client里獲取到對應的服務註冊表，也就知道了所有的服務都部署在了哪些機器上，在監聽哪些埠。

• 然後Ribbon就可以使用預設的Round Robin演算法，從中選擇一臺機器。

• Feign就會針對這台機器，構造併發起請求。

6. Config（分散式配置）

配置管理工具包，讓你可以把配置放到遠程伺服器，集中化管理集群配置，目前支持本地存儲、Git以及Subversion。

註冊中心與API網關的分析

微服務網關更多是在前後端分離，或者說涉及到獨立的類似手機APP等前端應用的時候使用的最多，即把內部各個微服務組件模塊的API介面能力統一註冊和接入到網關，對於APP也只需要訪問網關暴露的介面即可，同時通過網關還可以進一步的實現安全隔離。

也就是說在這種場景下，網關更多的是實現了介面服務的代理和路由轉發能力，更多的是向外的一種能力發佈。

• 一個獨立的開發團隊，為保證獨立自治，以及內部多個微服務模塊間的交互集成，最好啟用獨立的服務註冊中心實現服務註冊，發現能力。即開發團隊內部多個微服務模塊間的集成，不需要通過網關，只需要通過服務註冊中心進行集成即可。

• 開發團隊需要暴露能力給外部，包括暴露能力給其它的開發團隊，需要考慮將該API介面註冊到外部的網關上。在這裡建議是拆分兩個獨立網關，一個是內部API網關，一個是放置到DMZ區面對公網訪問的API網關。對於服務如果同時涉及到內部和外部使用，則兩邊註冊。建議不要通過兩次網關去路由，一個是影響性能，一個是不方便後續問題排查。

• 構建在開發團隊之外的API網關必須具備負載均衡能力，可以配置多個IP地址。通過該API網關也最好具備和Docker容器擴展後的服務自動註冊和地址加入擴展能力。

Spring Cloud 全家桶的簡介

• Spring Cloud Config：配置管理工具包，讓你可以把配置放到遠程伺服器，集中化管理集群配置，目前支持本地存儲、Git 以及 Subversion。

• Spring Cloud Bus：事件、消息匯流排，用於在集群（例如，配置變化事件）中傳播狀態變化，可與 Spring Cloud Config 聯合實現熱部署。

• Eureka：雲端服務發現，一個基於 REST 的服務，用於定位服務，以實現雲端中間層服務發現和故障轉移。

• Hystrix：熔斷器，容錯管理工具，旨在通過熔斷機制控制服務和第三方庫的節點,從而對延遲和故障提供更強大的容錯能力。

• Zuul：Zuul 是在雲平臺上提供動態路由,監控,彈性,安全等邊緣服務的框架。Zuul 相當於是設備和 Netflix 流應用的 Web 網站後端所有請求的前門。

• Archaius：配置管理 API，包含一系列配置管理 API，提供動態類型化屬性、線程安全配置操作、輪詢框架、回調機制等功能。

• Consul：封裝了 Consul 操作，Consul 是一個服務發現與配置工具，與 Docker 容器可以無縫集成。

• Spring Cloud for Cloud Foundry：通過 Oauth2 協議綁定服務到 CloudFoundry，CloudFoundry 是 VMware 推出的開源 PaaS 雲平臺。

• Spring Cloud Sleuth：日誌收集工具包，封裝了 Dapper 和 log-based 追蹤以及 Zipkin 和 HTrace 操作，為 Spring Cloud 應用實現了一種分散式追蹤解決方案。

• Spring Cloud Data Flow：大數據操作工具，作為 Spring XD 的替代產品，它是一個混合計算模型，結合了流數據與批量數據的處理方式。

• Spring Cloud Security：基於 Spring Security 的安全工具包，為你的應用程式添加安全控制。

• Spring Cloud Zookeeper：操作 Zookeeper 的工具包，用於使用 Zookeeper 方式的服務發現和配置管理。

• Spring Cloud Stream：數據流操作開發包，封裝了與 Redis、Rabbit、Kafka 等發送接收消息。

• Spring Cloud CLI：基於 Spring Boot CLI，可以讓你以命令行方式快速建立雲組件。

• Ribbon：提供雲端負載均衡，有多種負載均衡策略可供選擇，可配合服務發現和斷路器使用。

• Turbine：Turbine 是聚合伺服器發送事件流數據的一個工具，用來監控集群下 Hystrix 的 Metrics 情況。

• Feign：Feign 是一種聲明式、模板化的 HTTP 客戶端。

• Spring Cloud Task：提供雲端計劃任務管理、任務調度。

• Spring Cloud Connectors：便於雲端應用程式在各種 PaaS 平臺連接到後端，如：資料庫和消息代理服務。

• Spring Cloud Cluster：提供 Leadership 選舉，如：Zookeeper，Redis，Hazelcast，Consul 等常見狀態模式的抽象和實現。

• Spring Cloud Starters：Spring Boot 式的啟動項目，為 Spring Cloud 提供開箱即用的依賴管理。