ketcup git地址:https://github.com/simple-gr/ketchup 服務治理是什麼 企業為了確保事情順利完成而實施的過程,包括最佳實踐、架構原則、治理規程、規律以及其他決定性的因素。 我理解的就是服務治理就是一顆藥,用來治療服務之間存在的各種疑難雜症從而能讓他正常的運 ...
ketcup git地址:https://github.com/simple-gr/ketchup
服務治理是什麼
企業為了確保事情順利完成而實施的過程,包括最佳實踐、架構原則、治理規程、規律以及其他決定性的因素。
我理解的就是服務治理就是一顆藥,用來治療服務之間存在的各種疑難雜症從而能讓他正常的運行起來。
治理的策略
負載均衡
為了提高可用性、降低延遲,同一個服務可能會部署多個實例,負載均衡就是為了在服務的多個實例之間進行分配負載,已達到優化資源使用、最大化吞吐率,同時避免過載。
限流
服務的流量可能是動態的,如果流量增加,超過服務承載範圍,就會影響用戶掩。通過限制服務能使用的資源,當監控到流量超過設定的閾值時,服務拒絕處理新的用戶請求。當系統壓力過大時,對系統的非核心業務進行限流,避免因壓力過大導致整個系統奔潰。
容錯
生產環境中的每個微服務並不是具有百分百的可靠。服務之間跨網路調用,增加了調用失敗的可能性。因此,如何保證微服務系統的可靠性,也變得更為複雜和困難。所以,微服務系統在設計之初就需要考慮容錯機制,當系統負載過高時,可以確保核心業務不被破壞,以及當某個服務出錯時,把影響範圍降低到最小,避免整個系統不可用。
配置
服務在運行過程中,需要和其他服務協作,同時他也會依賴基礎設施或其他服務完成某項業務功能。在這個過程中,就需要多樣化的配置信息。源碼中硬編碼配置信息,雖然實現成本低,但是這種方式不僅缺乏靈活性,而且容易造成信息泄露。因此,較好的方式是將配置與代碼分離。採用獨立於代碼的外部機制存儲配置信息。
ketchup 中的實現
當有rpc請求時,負載均衡策略決定那個子通道即grpc伺服器將接收請求。(當前實現的負載演算法有隨機數與輪詢演算法)
使用方式是在配置文件中直接設置:
"Consul": { "ConnectionString": "192.168.180.55:8500", "IsHealthCheck": true, "Strategy":"Random" //負載策略 Random(隨機演算法),Polling(輪詢演算法) }
容錯限流配置需要在屬性上面設置
Service 聲明為服務類型
HystrixCommand 設置限流 容錯,超時等機制
[Service(Name = "grpc.domain.RpcTest")] public class HelloService : RpcTest.RpcTestBase { [HystrixCommand(MethodName = nameof(SayHello), ExcuteTimeoutInMilliseconds = 3000)] public override async Task<HelloReponse> SayHello(HelloRequest request, ServerCallContext context) { var result = await _cache.GetAsync<string>("a"); return new HelloReponse() { Code = 1, Msg = "hello simple", Result = JsonConvert.SerializeObject(result) }; } }
HystrixCommand 可配置治理功能
public class HystrixCommandAttribute : Attribute { public string MethodName { get; set; } /// <summary> /// 執行超時時間 /// </summary> public int ExcuteTimeoutInMilliseconds { get; set; } = 10000; /// <summary> /// 最大信號量 /// </summary> public int MaxRequests { get; set; } = 0; /// <summary> /// 最大信號量的限定時間 /// 預設1s /// </summary> public int MaxRequestsTime { get; set; } = 1000; /// <summary> /// 至少多少請求失敗,熔斷器才發揮起作用 /// </summary> public int BreakerRequestCircuitBreaker { get; set; } = 10; /// <summary> /// 是否開啟服務降級 /// </summary> public bool EnableServiceDegradation { get; set; } /// <summary> /// 降級緩存類型 /// </summary> public CacheModel Cache { get; set; } = CacheModel.Memory; /// <summary> /// 降級緩存時間 /// 單位 秒 /// </summary> public int ServiceDegradationTimeSpan { get; set; } = 10; }
寫在最後
QQ群:592407137 期待大家一起研究,學習~~
開源不易,如果喜歡,請給予一個Start 給予支持。謝謝!