跟我學SpringCloud | 第四篇:熔斷器Hystrix 1. 熔斷器 服務雪崩 在正常的微服務架構體系下,一個業務很少有隻需要調用一個服務就可以返回數據的情況,這種比較常見的是出現在demo中,一般都是存在調用鏈的,比如A B C D,如果D在某一個瞬間出現問題,比如網路波動,io偏高,導致 ...
SpringCloud系列教程 | 第四篇:熔斷器Hystrix
Springboot: 2.1.6.RELEASE
SpringCloud: Greenwich.SR1
如無特殊說明,本系列教程全採用以上版本
1. 熔斷器
服務雪崩
在正常的微服務架構體系下,一個業務很少有隻需要調用一個服務就可以返回數據的情況,這種比較常見的是出現在demo中,一般都是存在調用鏈的,比如A->B->C->D,如果D在某一個瞬間出現問題,比如網路波動,io偏高,導致卡頓,隨著時間的流逝,後續的流量繼續請求,會造成D的壓力上升,有可能引起宕機。
你以為這就是結束麽,圖樣圖森破,這才是噩夢的開始,在同一個調用鏈上的ABC三個服務都會隨著D的宕機而引發宕機,這還不是結束,一個服務不可能只有一個介面,當它開始卡頓宕機時,會影響到其他調用鏈的正常調用,最終導致所有的服務癱瘓。
如下圖所示:
熔斷器
相信大家都知道家用電閘,原來老式的電閘是使用保險絲的(現在很多都是空氣開關了),當家裡用電量過大的時候,保險絲經常燒斷,這麼做是保護家裡的用電器,防止過載。
熔斷器的作用和這個很像,它可以實現快速失敗,如果在一段時間內服務調用失敗或者異常,會強制要求當前調用失敗,不在走遠程調用,走服務降級操作(返回固定數據或者其他一些降級操作)。從而防止應用程式不斷地嘗試執行可能會失敗的操作,使得應用程式繼續執行而不用等待修正錯誤,或者浪費CPU時間去等到長時間的超時產生。熔斷器也可以自動診斷錯誤是否已經修正,如果已經修正,應用程式會再次嘗試調用操作。
熔斷器模式就像是那些容易導致錯誤的操作的一種代理。這種代理能夠記錄最近調用發生錯誤的次數,然後決定使用允許操作繼續,或者立即返回錯誤。 Hystrix會有一個熔斷時間視窗,具體轉換邏輯如下:
熔斷器就是保護服務高可用的最後一道防線。
2. Hystrix
1. 斷路器機制
斷路器很好理解, 當Hystrix Command請求後端服務失敗數量超過一定比例(預設50%), 斷路器會切換到開路狀態(Open)。這時所有請求會直接失敗而不會發送到後端服務。斷路器保持在開路狀態一段時間後(預設5秒), 自動切換到半開路狀態(HALF-OPEN)。這時會判斷下一次請求的返回情況, 如果請求成功, 斷路器切回閉路狀態(CLOSED), 否則重新切換到開路狀態(OPEN)。Hystrix的斷路器就像我們家庭電路中的保險絲, 一旦後端服務不可用, 斷路器會直接切斷請求鏈, 避免發送大量無效請求影響系統吞吐量, 並且斷路器有自我檢測並恢復的能力。
2. Fallback
Fallback相當於是降級操作。對於查詢操作, 我們可以實現一個fallback方法, 當請求後端服務出現異常的時候, 可以使用fallback方法返回的值。fallback方法的返回值一般是設置的預設值或者來自緩存。
3. 資源隔離
在Hystrix中, 主要通過線程池來實現資源隔離。通常在使用的時候我們會根據調用的遠程服務劃分出多個線程池。例如調用產品服務的Command放入A線程池, 調用賬戶服務的Command放入B線程池。這樣做的主要優點是運行環境被隔離開了。這樣就算調用服務的代碼存在bug或者由於其他原因導致自己所線上程池被耗盡時, 不會對系統的其他服務造成影響。但是帶來的代價就是維護多個線程池會對系統帶來額外的性能開銷。如果是對性能有嚴格要求而且確信自己調用服務的客戶端代碼不會出問題的話, 可以使用Hystrix的信號模式(Semaphores)來隔離資源。
3. Feign Hystrix
上一篇我們使用了producer和consumers,熔斷器是只作用在服務調用端,因此上一篇使用到的consumers我們可以直接拿來使用。因為,Feign中已經依賴了Hystrix所以在maven配置上不用做任何改動。
1. 配置文件application.yml新增
server:
port: 8081
spring:
application:
name: spring-cloud-consumers
eureka:
client:
service-url:
defaultZone: http://localhost:8761/eureka/
feign:
hystrix:
enabled: true
其中新增了feign.hystrix.enabled = true
2. 創建fallback類,繼承與HelloRemote實現回調的方法
package com.springcloud.consumers.fallback;
import com.springcloud.consumers.remote.HelloRemote;
import org.springframework.stereotype.Component;
import org.springframework.web.bind.annotation.RequestParam;
/**
* Created with IntelliJ IDEA.
*
* @User: weishiyao
* @Date: 2019/7/2
* @Time: 23:14
* @email: [email protected]
* Description:
*/
@Component
public class HelloRemoteFallBack implements HelloRemote {
@Override
public String hello(@RequestParam(value = "name") String name) {
return "hello " + name + ", i am fallback massage";
}
}
3. 添加fallback屬性
在HelloRemote類添加指定fallback類,在服務熔斷的時候返回fallback類中的內容。
package com.springcloud.consumers.remote;
import com.springcloud.consumers.fallback.HelloRemoteFallBack;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
/**
* @Author: shiyao.wei
* @Date: 2019/7/2 11:14
* @Version: 1.0
* @Desc:
*/
@FeignClient(name= "SPRING-CLOUD-PRODUCER", fallback = HelloRemoteFallBack.class)
public interface HelloRemote {
@RequestMapping(value = "/hello")
String hello(@RequestParam(value = "name") String name);
}
所有改動結束。
4. 測試
現在我們測試看下結果,老規矩,順次啟動註冊中心Eureka、provider、consumer
訪問上一節我們訪問過的鏈接:http://localhost:8081/hello/spring
現在可以看到頁面正常顯示:hello spring,producer is ready
現在我們手動把provider停掉,再訪問一下鏈接看一下:
現在頁面已經顯示我們熔斷後的信息了:hello spring, i am fallback massage
現在說明我們的測試已經成功了。
好了,現在可以將代碼打包扔到Github上去了:)
參考:
微服務框架Spring Cloud介紹 Part5: 在微服務系統中使用Hystrix, Hystrix Dashboard與Turbine