簡易RPC框架-熔斷降級機制

来源:http://www.cnblogs.com/ASPNET2008/archive/2017/12/02/7954782.html
-Advertisement-
Play Games

熔斷與降級 為什麼在RPC環節中有熔斷以及降級的需求,詳細的原因這裡不多解釋,從網上搜索一張圖做示意。 熔斷 我理解熔段主要解決如下幾個問題: 當所依賴的對象不穩定時,能夠起到快速失敗的目的 快速失敗後,能夠根據一定的演算法動態試探所依賴對象是否恢復 比如產品詳細頁獲取產品的好評總數時,由於後端服務異 ...


熔斷與降級

為什麼在RPC環節中有熔斷以及降級的需求,詳細的原因這裡不多解釋,從網上搜索一張圖做示意。

熔斷

我理解熔段主要解決如下幾個問題:

  • 當所依賴的對象不穩定時,能夠起到快速失敗的目的
  • 快速失敗後,能夠根據一定的演算法動態試探所依賴對象是否恢復

比如產品詳細頁獲取產品的好評總數時,由於後端服務異常導致客戶端每次都需要等到超時。如果短時間內服務不能恢復,那麼這段時間內的所有請求時間都將是最大的超時時間,這類消費時間又得不到正確結果的現象是不能容忍的。所以遇到這類情況,就需要根據一定的演算法判定服務短時間不可用,將後面的請求進行快速失敗處理,這樣可以節省服務等待時間。

同時,後端服務是有可能自主或者人為在一定時間內恢復的,所以之前被判定為快速失敗的服務,需要有能力去試探服務是否已經恢復。

上面提到的快速失敗以及自主恢復現象就是熔斷

降級

降級是指自己的待遇下降了,從RPC調用環節來講,就是去訪問一個本地的偽裝者而不是真實的服務,但這對調用端來說是沒有區別的。拿電商展示某個產品的詳細頁來說:

  • 當載入評論時,由於評論服務不可用,此時可以返回一些預設的評論
  • 當載入產品庫存,由於庫存服務不可用,此時可以固定顯示一個庫存數

上面提供返回預設評論,固定庫存的服務就是偽裝服務,這類服務一般不依賴其它服務,穩定性最高。由偽裝者提供服務給客戶端的現象就是服務降級。

RPC如何支持熔斷與降級

一種最簡單的辦法就是借用hystrix來實現。

引入包依賴

由於示例未採用註解式方案,所以只需要引用下麵兩個包即可。


<dependency>
    <groupId>com.netflix.hystrix</groupId>
    <artifactId>hystrix-core</artifactId>
    <version>${hystrix-version}</version>
</dependency>
<dependency>
    <groupId>com.netflix.hystrix</groupId>
    <artifactId>hystrix-metrics-event-stream</artifactId>
    <version>${hystrix-version}</version>
</dependency>

實現命令模式

hystrix遵循命令模式,這裡可以往這個標準的UML圖上去套。

創建一個新的類,RpcHystrixCommand,繼承自HystrixCommand即可。

我這裡採用線程隔離方式。

構造函數參數

由於需要遠程調用,所以構造函數需要接收遠程調用所需求必要參數


/**
 * 遠程目標方法
 */
private Method method;

/**
 * 遠程目標介面
 */
private Object obj;

/**
 * 遠程方法所需要的參數
 */
private Object[] params;

/**
 * 遠程介面客戶端引用註解
 */
private RpcReference rpcReference;

/**
 * RPC客戶端配置
 */
private ReferenceConfig referenceConfig;

構造函數方法簽名:

public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)

初始化hystrix

這裡只是一個示例,所以參數設置比較隨意,詳細的可參考文檔。


super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("CircuitBreakerRpcHystrixCommandGroup"))
                        .andCommandKey(HystrixCommandKey.Factory.asKey("CircuitBreakerRpcHystrixCommandKey"))
                        .andCommandPropertiesDefaults(
                                HystrixCommandProperties.Setter()
                                        .withCircuitBreakerEnabled(true)
                                        .withCircuitBreakerRequestVolumeThreshold(1)
                                        .withCircuitBreakerErrorThresholdPercentage(50)
                                        .withCircuitBreakerSleepWindowInMilliseconds(5*1000)
                                        .withMetricsRollingStatisticalWindowInMilliseconds(10*1000)
                        )
                       .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("CircuitBreakerRpcHystrixCommandPool"))
                       .andThreadPoolPropertiesDefaults(
                                HystrixThreadPoolProperties.Setter().withCoreSize(100)
                )
        );

run()函數

run()函數就是正常調用時所需要執行的方法,將調用遠程通信的邏輯遷移到此,由於此處不涉及今天講的熔斷降級,所以不用關心裡面的代碼。

@Override
protected Object run() {
  // 執行遠程調用
}

擴展rpcReference註解以支持降級

在之前的註解中增加一個屬性,用來配置服務偽裝者所屬的類對象

public @interface RpcReference {
    /**
     * 服務降級的偽裝者類對象
     * @return
     */
    Class<?> fallbackServiceClazz() default Object.class;
}

getFallback()函數

當快速失敗時,我們希望返回一些預先準備好的值給到客戶端,實現這個需求就需要實現這個fallback函數。

偽裝者的邏輯由於是客戶端控制,所以我們通過參數來動態支持。 通過rpcReference註解可以獲取配置的偽裝者

protected Object getFallback() {

        Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods();
        for (Method methodFallback : methods) {
            if(this.method.getName().equals(methodFallback.getName())){
                try {
                    Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz());
                    return  methodFallback.invoke(fallbackServiceMock,this.params);
                } catch (IllegalAccessException e) {
                    logger.error("RpcHystrixCommand.getFallback error",e);
                } catch (InvocationTargetException e) {
                    logger.error("RpcHystrixCommand.getFallback error",e);
                }
            }
        }
        throw new RpcException("service fallback unimplement");
    }

RpcProxy嵌入熔斷降級機制

代理的invoke方法,將改調用命令模式的execute方法來代替。

@Override
public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {

    RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig);
    return rpcHystrixCommand.execute();
}

客戶端使用

dubbo有一個mock機制,功能有些弱,有興趣可以自行研究。我這裡更加傾向於根據邏輯來判斷是否使用熔斷降級,降級的邏輯需要有更多的支持。

Spring Cloud的熔斷降級的做法與我的類似,它是通過註解在介面上


@FeignClient(value = "JIM-CLOUD-PROVIDER-SERVER",fallback = ProductServiceHystrix.class)
public interface ProductService {
    @RequestMapping(value = "/product/{productId}",method = RequestMethod.GET)
    String getById(@PathVariable("productId") final long productId);

}

創建偽裝者介面

定義偽裝者介面,約定成員方法的簽名與真身相同。

public interface ProductCommentMockService {
    Product getById(Long productId);
}

實現偽裝者介面

實現偽裝者介面,這裡不光是簡單的固定數據,可心任意編寫偽裝者業務邏輯,與普通的service bean 沒有區別。

@Service
public class ProductCommentMockServiceImpl implements ProductCommentMockService {
    @Override
    public Product getById(Long productId) {

        Product mockProduct=new Product();
        mockProduct.setId(0L);
        mockProduct.setName("mock product name");

        return mockProduct;
    }
}

服務引用使用熔斷降級機制

在引用遠程服務介面的註解上,配置偽裝者介面的類即可。

@RpcReference(
        maxExecutesCount = 1,
        fallbackServiceClazz = ProductCommentMockService.class
)
private ProductService productService;

測試

故意不啟動服務端,請求介面,此時出現mock數據說明組件功能正常。

{"id":0,"name":"mock product name"}

待解決問題

由於熔斷器採用的是新線程執行,所以會影響Rpc上下文傳遞的參數傳遞,後續我再解決。

本文源碼

https://github.com/jiangmin168168/jim-framework

文中代碼是依賴上述項目的,如果有不明白的可下載源碼


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 自定義模塊 模塊由什麼組成 npm 如何發佈自己的模塊 常見的命令: require 引入模塊 exports 輸出模塊 (想對外輸出東西時,必須加上exports) module.exports 批量輸出模塊 require 1.有‘./’ 從當前目錄中招 2.沒有‘./’ 先從系統模塊找,再從n ...
  • 1. 表達式語言OGNL OGNL簡介 OGNL基本語法 常量 操作符 OGNL表達式 OGNL基礎 OGNL上下文 OGNL值棧 OGNL的訪問 常量 操作符 OGNL表達式 OGNL上下文 OGNL值棧 OGNL的訪問 2. 具體內容 2.1 OGNL簡介 OGNL(Object-Graph N ...
  • 最近在學習workerman的時候比較頻繁的接觸到回調函數,使用中經常會因為worker的使用方式不同,會用這兩種不同的方式去調用外部的worker變數,這裡就整理一下PHP閉包獲取外部變數和global關鍵字聲明變數的區別。 閉包 閉包是一個常見的概念,我們通常可以將其與回調函數配合使用,可以使代 ...
  • 定義: 將一個複雜對象的構建與它的表示分離,使得同樣的構建過程可以創建不同的表示。生成器模式利用一個導演者對象和具體建造者對象一個一個地建造出所有的零件,從而建造出完整的對象。 四個要素: Builder:生成器介面,定義創建一個Product對象所需要的各個部件的操作。 ConcreteBuild ...
  • 一、kindedit編輯器 就是上面這樣的編輯輸入文本的一個編輯器 這也是一個插件。那麼怎麼用呢? 1、下載:百度kindedit 2、引入: 3、看官方提供的文檔 在addarticle.html中 當你把編輯器插入好的時候,你看似都可以設置大小,字體變粗等。。但是當你上傳圖片的時候就會想下麵一樣 ...
  • [toc] 功能和特性 基於socket實現的c/s架構的的通信 伺服器和客戶心跳連接 gson實現的消息通信機制 註冊及登錄 支持私聊和群聊。 動態更新用戶列表以及用戶消息提示 支持emoji表情,以及emoji表情選擇器 伺服器端資料庫用戶記錄 ~~實現文件傳輸~~ ~~文件記錄~~ 功能展示 ...
  • 寫什麼?為什麼寫?寫給誰看?這個是寫博客的首要問題。 寫什麼? 在這個分類下的文章主要是講一些博主對於JDK9的源碼理解結合一些入門級的數據結構與演算法。引用和知識來源主要來源於 CLRS(演算法導論),Alogrithms( 演算法 普林斯頓大學教材 鏈接:https://algs4.cs.prince ...
  • 文章目錄 ★引子 ★求導 ★最初的想法 ★初步的想法 ★後來的想法 ★最後的想法 ★編程範式 ★結尾 首先聲明一點,本文主要介紹的是面向對象(OO)的思想,順便談下函數式編程,而不是教你如何準確地、科學地用java求出函數在一點的導數。 ★引子 首先,直接上一段python代碼,請大家先分析下上面代 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...