轉載請出自出處:http://www.cnblogs.com/hd3013779515/ 1.集群容錯和負載均衡原理 各節點關係: 這裡的Invoker是Provider的一個可調用Service的抽象,Invoker封裝了Provider地址及Service介面信息。 Directory代表多個I ...
轉載請出自出處:http://www.cnblogs.com/hd3013779515/
1.集群容錯和負載均衡原理
各節點關係:
- 這裡的Invoker是Provider的一個可調用Service的抽象,Invoker封裝了Provider地址及Service介面信息。
- Directory代表多個Invoker,可以把它看成List<Invoker>,但與List不同的是,它的值可能是動態變化的,比如註冊中心推送變更。
- Cluster將Directory中的多個Invoker偽裝成一個Invoker,對上層透明,偽裝過程包含了容錯邏輯,調用失敗後,重試另一個。
- Router負責從多個Invoker中按路由規則選出子集,比如讀寫分離,應用隔離等。
- LoadBalance負責從多個Invoker中選出具體的一個用於本次調用,選的過程包含了負載均衡演算法,調用失敗後,需要重選。
2.負載均衡
(1)配置說明
在集群負載均衡時,Dubbo提供了多種均衡策略,預設為random隨機調用。
Random LoadBalance
- 隨機,按權重設置隨機概率。
- 在一個截面上碰撞的概率高,但調用量越大分佈越均勻,而且按概率使用權重後也比較均勻,有利於動態調整提供者權重。
RoundRobin LoadBalance
- 輪循,按公約後的權重設置輪循比率。
- 存在慢的提供者累積請求問題,比如:第二台機器很慢,但沒掛,當請求調到第二台時就卡在那,久而久之,所有請求都卡在調到第二臺上。
LeastActive LoadBalance
- 最少活躍調用數,相同活躍數的隨機,活躍數指調用前後計數差。
- 使慢的提供者收到更少請求,因為越慢的提供者的調用前後計數差會越大。
ConsistentHash LoadBalance
- 一致性Hash,相同參數的請求總是發到同一提供者。
- 當某一臺提供者掛時,原本發往該提供者的請求,基於虛擬節點,平攤到其它提供者,不會引起劇烈變動。
- 演算法參見:http://en.wikipedia.org/wiki/Consistent_hashing。
- 預設只對第一個參數Hash,如果要修改,請配置<dubbo:parameter key="hash.arguments" value="0,1" />
- 預設用160份虛擬節點,如果要修改,請配置<dubbo:parameter key="hash.nodes" value="320" />
配置如:
<dubbo:service interface="..." loadbalance="roundrobin" />
或:
<dubbo:reference interface="..." loadbalance="roundrobin" />
或:
<dubbo:service interface="..."> <dubbo:method name="..." loadbalance="roundrobin"/> </dubbo:service>
或:
<dubbo:reference interface="..."> <dubbo:method name="..." loadbalance="roundrobin"/> </dubbo:reference>
(2)使用案例
在3.Dubbo2.5.3快速啟動Hello World的基礎上增加服務提供者,與dubbo-hello-provider的區別如下。
服務消費者HelloServiceConsumerTest.java中加上迴圈調用服務提供者。
package cn.ljh.dubbo.service; import java.io.IOException; import org.springframework.context.support.ClassPathXmlApplicationContext; public class HelloServiceConsumerTest { public static void main(String[] args) { ClassPathXmlApplicationContext context = new ClassPathXmlApplicationContext( new String[] { "applicationConsumer.xml" }); context.start(); for(int i = 0 ; i < 100 ; i++){ HelloService providerService = (HelloService) context.getBean("helloService"); System.out.println(providerService.sayHello("Tom")); } try { System.in.read();//讓此程式一直跑 } catch (IOException e) { e.printStackTrace(); } } }
1)預設Random LoadBalance的時候
開始時,HelloService的兩個提供者的權重都是100,服務消費者執行後的分配比例為54:46。
然後通過監控中心把20880這個提供者的權重加到400,這時服務消費者執行後的分配比例為83:17。
2)設置為RoundRobin LoadBalance的時候
HelloService的兩個提供者的權重都是100時,嚴格安裝輪循方式。
把20880這個提供者的權重加到400時,按照權重來輪循。
3.集群容錯
(1)配置說明
集群容錯模式:
Failover Cluster
- 失敗自動切換,當出現失敗,重試其它伺服器。(預設)
- 通常用於讀操作,但重試會帶來更長延遲。
- 可通過retries="2"來設置重試次數(不含第一次)。
Failfast Cluster
- 快速失敗,只發起一次調用,失敗立即報錯。
- 通常用於非冪等性的寫操作,比如新增記錄。
Failsafe Cluster
- 失敗安全,出現異常時,直接忽略。
- 通常用於寫入審計日誌等操作。
Failback Cluster
- 失敗自動恢復,後臺記錄失敗請求,定時重發。
- 通常用於消息通知操作。
Forking Cluster
- 並行調用多個伺服器,只要一個成功即返回。
- 通常用於實時性要求較高的讀操作,但需要浪費更多服務資源。
- 可通過forks="2"來設置最大並行數。
Broadcast Cluster
- 廣播調用所有提供者,逐個調用,任意一臺報錯則報錯。(2.1.0開始支持)
- 通常用於通知所有提供者更新緩存或日誌等本地資源信息。
重試次數配置如:(failover集群模式生效)
<dubbo:service retries="2" />
或:
<dubbo:reference retries="2" />
或:
<dubbo:reference> <dubbo:method name="findFoo" retries="2" /> </dubbo:reference>
集群模式配置如:
<dubbo:service cluster="failsafe" />
或:
<dubbo:reference cluster="failsafe" />
(2)使用案例
代碼改造
兩個服務提供者同時改造
HelloServiceImpl.java
增加sleep時間以方便在服務消費者調用時能停掉服務提供者。
applicationProvider.xml
1)預設Failover Cluster的時候
在服務消費者執行過程中,通過監控中心禁用某個服務提供者,執行結果顯示能夠正確切換到可用服務提供者,不會報錯或者丟失調用。
2)設置為Failfast Cluster的時候
當服務消費者調用某個服務提供者時,如果停掉該服務提供者,將立即報錯並不繼續執行。
3)設置為Failsafe Cluster的時候
當服務消費者調用某個服務提供者時,如果停掉該服務提供者,直接忽略,繼續往下走。
參考
http://dubbo.io/User+Guide-zh.htm