Java微服務（三）：負載均衡、序列化、熔斷

本文接著上一篇寫的《Java微服務（二）：服務消費者與提供者搭建》，上一篇文章主要講述了消費者與服務者的搭建與簡單的實現。其中重點需要註意配置文件中的幾個坑。本章節介紹一些零散的內容：服務的負載均衡，序列化和熔斷 1.服務負載均衡負載均衡可分為軟體負載均衡和硬體負載均衡。在我們日常開發中，一般很 ...

　　本文接著上一篇寫的《Java微服務（二）：服務消費者與提供者搭建》，上一篇文章主要講述了消費者與服務者的搭建與簡單的實現。其中重點需要註意配置文件中的幾個坑。

本章節介紹一些零散的內容：服務的負載均衡，序列化和熔斷

1.服務負載均衡

負載均衡可分為軟體負載均衡和硬體負載均衡。在我們日常開發中，一般很難接觸到硬體負載均衡。但軟體負載均衡還是可以接觸到的，比如 Nginx。dubbo提供的也是軟負載。

詳細內容可以閱讀dubbo官網關於負載均衡的介紹，這裡總結下負載均衡的方式：

權重隨機演算法的 RandomLoadBalance

　　RandomLoadBalance 是加權隨機演算法的具體實現，它的演算法思想很簡單。假設我們有一組伺服器 servers = [A, B, C]，他們對應的權重為 weights = [5, 3, 2]，權重總和為10。那麼就有5/10的請求達到A伺服器上，3/10和2/10分別達到B和C上。只要隨機數生成器產生的隨機數分佈性很好，在經過多次選擇後，每個伺服器被選中的次數比例接近其權重比例。當調用次數比較少時，Random 產生的隨機數可能會比較集中，此時多數請求會落到同一臺伺服器上。

最少活躍調用數演算法的 LeastActiveLoadBalance

　　每個服務提供者對應一個活躍數 active。初始情況下，所有服務提供者活躍數均為0。每收到一個請求，活躍數加1，完成請求後則將活躍數減1，在服務運行一段時間後，性能好的服務提供者處理請求的速度更快，因此活躍數下降的也越快，此時這樣的服務提供者能夠優先獲取到新的服務請求、這就是最小活躍數負載均衡演算法的基本思想，目前此演算法還引入了權重值。

基於 hash 一致性的 ConsistentHashLoadBalance

　　首先根據 ip 或者其他的信息為緩存節點生成一個 hash，並將這個 hash 投射到 [0, 2³² - 1] 的圓環上。當有查詢或寫入請求時，則為緩存項的 key 生成一個 hash 值。然後查找第一個大於或等於該 hash 值的緩存節點，併到這個節點中查詢或寫入緩存項。如果當前節點掛了，則在下一次查詢或寫入緩存時，為緩存項查找另一個大於其 hash 值的緩存節點即可。

基於加權輪詢演算法的 RoundRobinLoadBalance

　　所謂輪詢是指將請求輪流分配給每台伺服器。舉個例子，我們有三台伺服器 A、B、C。我們將第一個請求分配給伺服器 A，第二個請求分配給伺服器 B，第三個請求分配給伺服器 C，第四個請求再次分配給伺服器 A。這個過程就叫做輪詢。輪詢是一種無狀態負載均衡演算法，實現簡單，適用於每台伺服器性能相近的場景下。加權輪詢是將伺服器賦一個權值，然後按照該權值進行輪訓。

代碼構建,本例使用輪訓演算法做demo

直接在yml配置文件中添加loadbalance註解就可以

開啟2個服務提供者，並且使用服務消費者消費，查看日誌

2.序列化

　　Dubbo 中支持的序列化方式：

dubbo 序列化：阿裡尚未開發成熟的高效 java 序列化實現，阿裡不建議在生產環境使用它
hessian2 序列化：hessian 是一種跨語言的高效二進位序列化方式。但這裡實際不是原生的 hessian2 序列化，而是阿裡修改過的 hessian lite，它是 dubbo RPC 預設啟用的序列化方式
json 序列化：目前有兩種實現，一種是採用的阿裡的 fastjson 庫，另一種是採用 dubbo 中自己實現的簡單 json 庫，但其實現都不是特別成熟，而且 json 這種文本序列化性能一般不如上面兩種二進位序列化。
java 序列化：主要是採用 JDK 自帶的 Java 序列化實現，性能很不理想。

　　dubbo自帶的序列化方式不成熟，而json和java序列化性能不理想。dubbo可以使用hessian2序列化，但是hessian2是跨語言的，沒有單獨對java語言做優化，所以很多單獨給java提供優化的工具性能比hessian2要好。我們為 dubbo 引入 Kryo 和 FST 這兩種高效 Java 序列化實現，來逐步取代 hessian2。

dubbo有關序列化的實例如下：

代碼構建，首先增加依賴

 1   <dependency>
 2             <groupId>de.javakaffee</groupId>
 3             <artifactId>kryo-serializers</artifactId>
 4             <version>0.42</version>
 5         </dependency>
 6         <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-hystrix -->
 7         <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-netflix-hystrix -->
 8         <dependency>
 9             <groupId>org.springframework.cloud</groupId>
10             <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
11             <version>2.0.1.RELEASE</version>
12         </dependency>
13         <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-netflix-hystrix-dashboard -->
14         <dependency>
15             <groupId>org.springframework.cloud</groupId>
16             <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
17             <version>2.0.1.RELEASE</version>
18         </dependency>

在配置文件中增加配置的屬性即可：

此時序列化配置完成，以下總結了常見序列化方式的性能

3.熔斷

　　由於網路和自身的原因，RPC之間的調用並不能保證100%可用，如果伺服器產生了宕機，同時又有大量的請求過來，就會出現雪崩，為瞭解決此問題，業界提出了熔斷。熔斷器打開後，為了避免連鎖故障，通過 fallback 方法可以直接返回一個固定值。此時fallback中可以做很多邏輯處理，比喻日誌或者郵件通過開發人員，及時對伺服器進行問題排查，降低風險度。

代碼構建，首先增加依賴

 1 <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-hystrix -->
 2         <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-netflix-hystrix -->
 3         <dependency>
 4             <groupId>org.springframework.cloud</groupId>
 5             <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
 6             <version>2.0.1.RELEASE</version>
 7         </dependency>
 8         <!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-netflix-hystrix-dashboard -->
 9         <dependency>
10             <groupId>org.springframework.cloud</groupId>
11             <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
12             <version>2.0.1.RELEASE</version>
13         </dependency>

其中第二個依賴是在熔斷儀錶盤中使用的。具體代碼和相關解釋如下如下：

熔斷儀錶盤的配置，這裡需要註意spring boot2和1的配置是有區別的，具體可以參考官網文檔

 1 package com.edu.hello.dubbo.service.user.consumer.config;
 2 
 3 import com.netflix.hystrix.contrib.metrics.eventstream.HystrixMetricsStreamServlet;
 4 import org.springframework.boot.web.servlet.ServletRegistrationBean;
 5 import org.springframework.context.annotation.Bean;
 6 import org.springframework.context.annotation.Configuration;
 7 
 8 /**
 9  * @ClassName HystrixDashboardConfiguration
10  * @Deccription TODO
11  * @Author DZ
12  * @Date 2019/9/3 23:10
13  **/
14 @Configuration
15 public class HystrixDashboardConfiguration {
16     @Bean
17     public ServletRegistrationBean getServlet() {
18         HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
19         ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
20         registrationBean.setLoadOnStartup(1);
21         registrationBean.addUrlMappings("/hystrix.stream");
22         registrationBean.setName("HystrixMetricsStreamServlet");
23         return registrationBean;
24     }
25 }