前面已經學習了服務註冊與發現組件,負載均衡組件,這樣我們的微服務系統已經可以使用了。為了保證其高可用,單個服務通常會集群部署。由於網路原因或者自身的原因,服務並不能保證 100% 可用,如果單個服務出現問題,調用這個服務就會出現線程阻塞,此時若有大量的請求涌入,Servlet 容器的線程資源會被消耗 ...
前面已經學習了服務註冊與發現組件,負載均衡組件,這樣我們的微服務系統已經可以使用了。為了保證其高可用,單個服務通常會集群部署。由於網路原因或者自身的原因,服務並不能保證 100% 可用,如果單個服務出現問題,調用這個服務就會出現線程阻塞,此時若有大量的請求涌入,Servlet
容器的線程資源會被消耗完畢,導致服務癱瘓。服務與服務之間的依賴性,故障會傳播,會對整個微服務系統造成災難性的嚴重後果,這就是服務故障的 “雪崩” 效應。
這就讓需要對故障和延遲進行隔離和管理,以便單個依賴關係的失敗,不能取消整個應用程式或系統。
為瞭解決這個問題,業界提出了熔斷器模型。
Hystrix是一個用於處理分散式系統的延遲和容錯的開源庫,在分散式系統里,許多依賴不可避免的會調用失敗,比如超時、異常等,Hystrix能夠保證在一個依賴出問題的情況下,不會導致整體服務失敗,避免級聯故障,以提高分散式系統的彈性。
“斷路器”本身是一種開關裝置,當某個服務單元發生故障之後,通過斷路器的故障監控(類似熔斷保險絲),向調用方返回一個符合預期的、可處理的備選響應(FallBack),而不是長時間的等待或者拋出調用方無法處理的異常,這樣就保證了服務調用方的線程不會被長時間、不必要地占用,從而避免了故障在分散式系統中的蔓延,乃至雪崩。
這個組件很好理解,就是為了保證服務的高可用,而對一些故障的服務進行處理,避免整個服務都掛掉。
一、Ribbon中使用熔斷器
服務調用方有兩種方式Ribbon與Feign,現在Ribbon上使用,首先在項目上
添加依賴
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-hystrix</artifactId> </dependency>
@EnableDiscoveryClient @SpringBootApplication @EnableHystrix public class ConsumerDeptRibbonApplication { public static void main(String[] args) { SpringApplication.run(ConsumerDeptRibbonApplication.class, args); } }
在 Service 中增加 @HystrixCommand 註解
在需要有熔斷機制的方法上添加 @HystrixCommand,屬性fallbackMethod是熔斷時返回的方法:
@Service public class DeptService { @Autowired private RestTemplate restTemplate; @HystrixCommand(fallbackMethod = "hiError") public String sayHi(String message) { //這裡指指定了服務名稱,不用管ip 地址與埠 return restTemplate.getForObject("http://SPRING-CLOUD-LEARN-PROVIDER-DEPT/hi?message=" + message, String.class); } public String hiError(String message) { return "Hi,your message is :\"" + message + "\" but request error."; } }
這樣就已經完成了開發,我們進行相應的測試
啟動spring-cloud-learn-eureka註冊中心,啟動部門服務提供者spring-cloud-learn-provider-dept,然後啟動spring-cloud-learn-consumer-dept-ribbon,這個時候服務正常,我們能得到正常的反饋,與之前相同,然我們停掉spring-cloud-learn-provider-dept,然後再刷新http://localhost:8764/hi?message=hello,會發現:
二、
feign: hystrix: enabled: true
然後我們創建一個與服務對應相關的專門應對熔斷的類:
@Component public class DeptServiceHystrix implements DeptService { @Override public String sayHi(String message) { return "Hi,your message is :\"" + message + "\" but request error."; } }
//服務提供者的名字 @FeignClient(value = "spring-cloud-learn-provider-dept", fallback = DeptServiceHystrix.class) public interface DeptService { @RequestMapping(value = "hi", method = RequestMethod.GET) String sayHi(@RequestParam(value = "message") String message); }
然後啟動spring-cloud-learn-consumer-dept-feign,在部門服務掛掉之後,也能實現熔斷效果
還有一種創建工廠的方式,新建一個DeptServiceFallbackFactory:
@Component public class DeptServiceFallbackFactory implements FallbackFactory<DeptService> { @Override public DeptService create(Throwable throwable) { return new DeptService() { @Override public String sayHi(String message) { return "Hi,your message is :\"" + message + "\" but request error."; } }; } }
除了隔離依賴服務的調用以外,Hystrix還提供了準實時的調用監控(Hystrix Dashboard),Hystrix會持續地記錄所有通過Hystrix發起的請求的執行信息,並以統計報表和圖形的形式展示給用戶,包括每秒執行多少請求多少成功,多少失敗等。Netflix通過hystrix-metrics-event-stream項目實現了對以上指標的監控。Spring Cloud也提供了Hystrix Dashboard的整合,對監控內容轉化成可視化界面。
在 Ribbon 和 Feign 項目增加 Hystrix 儀錶盤功能,兩個項目的改造方式相同:
在 pom.xml 中增加依賴
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId> </dependency>
@SpringBootApplication @EnableDiscoveryClient @EnableFeignClients @EnableHystrixDashboard public class ConsumerDeptFeignApplication { public static void main(String[] args) { SpringApplication.run(ConsumerDeptFeignApplication.class, args); } }
創建 hystrix.stream 的 Servlet 配置
Spring Boot 2.x 版本開啟 Hystrix Dashboard 與 Spring Boot 1.x 的方式略有不同,需要增加一個 HystrixMetricsStreamServlet 的配置,代碼如下:
@Configuration public class HystrixDashboardConfiguration { @Bean public ServletRegistrationBean getServlet() { HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet(); ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet); registrationBean.setLoadOnStartup(1); registrationBean.addUrlMappings("/hystrix.stream"); registrationBean.setName("HystrixMetricsStreamServlet"); return registrationBean; } }
1:Delay:該參數用來控制伺服器上輪詢監控信息的延遲時間,預設為2000毫秒,可以通過配置該屬性來降低客戶端的網路和CPU消耗。
2:Title:該參數對應了頭部標題Hystrix Stream之後的內容,預設會使用具體監控實例的URL,可以通過配置該信息來展示更合適的標題。
點擊進入:
這個時候還沒有數據,學習下如何看著數據,我們可以刷新下之前調用服務的介面
七色:按照結果下顯示各種顏色
實心圓:共有兩種含義。它通過顏色的變化代表了實例的健康程度,它的健康度從綠色<黃色<橙色<紅色遞減。 該實心圓除了顏色的變化之外,它的大小也會根據實例的請求流量發生變化,流量越大該實心圓就越大。所以通過該實心圓的展示,就可以在大量的實例中快速的發現故障實例和高壓力實例。
曲線:用來記錄2分鐘內流量的相對變化,可以通過它來觀察到流量的上升和下降趨勢。
這個自己實踐下就比較好理解了。