淺談服務介面的高可用設計

来源:https://www.cnblogs.com/Jcloud/archive/2023/01/13/17048630.html
-Advertisement-
Play Games

作為一個後端研發人員,開發服務介面是我正常不過的工作了,這些介面不管是面向前端HTTP或者是供其他服務RPC遠程調用的,都繞不開一個共同的話題就是“高可用”,介面開發往往看似簡單,但保證高可用這塊實現起來卻不並沒有想想的那麼容易,接下來我們就看一下,一個高可用的介面是該考慮哪些內容,同時文中有不足的... ...


作者:京東零售 王磊

前言

作為一個後端研發人員,開發服務介面是我正常不過的工作了,這些介面不管是面向前端HTTP或者是供其他服務RPC遠程調用的,都繞不開一個共同的話題就是“高可用”,介面開發往往看似簡單,但保證高可用這塊實現起來卻不並沒有想想的那麼容易,接下來我們就看一下,一個高可用的介面是該考慮哪些內容,同時文中有不足的歡迎批評指正。

到底啥是高可用

用一句簡單的話來概就是我們的系統具不具備應對和規避風險的能力。

為啥做高可用

1. 程式都是有人開發的,在開發過程中會犯錯從而導致線上事故的發生
2. 系統運行依賴各種運行環境:CPU、記憶體、硬碟、網路等等,而這些都有可能損壞
3. 業務拉新用戶正在註冊賬號,結果註冊介面掛了用戶體驗受影響
4. 雙十一、618等大促大量用戶下單,結果下單服務介面掛了GMV受影響等等
5. 其他未知因素等等
總之為了應對這些不可控因素的發生,我們必須要做高可用

高可用的關鍵點

我們說過高可用的本質是系統是否具備應對和規避風險的能力,那麼從這個角度出發來設計高可用介面的有以下幾個關鍵因素:Dependence(依賴)、Probability(概率)、Time(時長)、Scope(範圍)

1. 依賴的資源相對少
2. 風險的概率足夠低
3. 影響的範圍足夠小
4. 影響時長足夠短

介面高可用設計的幾個原則

結合這些關鍵點,我們來看一下具體具體註意事項

1、控制依賴

能少依賴就少依賴,能不強依賴就不強依賴

少依賴
例如:日常每分鐘10個請求,查詢Mysql數據即可滿足,此時盲目引入Redis中間件,不僅浪費資源而且增加系統複雜性

弱依賴
例如:用戶註冊服務強依賴新用戶優惠券發放服務,當優惠券發放服務故障後,整個註冊不可用,好的方式是採用弱依賴,使用非同步化的
方式,這樣優惠券發送服務不可用時,不會影響註冊鏈路。

2、避免單點

避免單點故障的核心是通過備份或者冗餘快速的進行容錯

1. 我們採用多機房多實力部署我們應用來保障故障風險分攤,一旦有一臺伺服器出現問題,其他服務仍然能夠繼續支撐我們的服務
2. 每次上線我們都會保留上一次上線發佈版本,這樣一旦上線的程式出現問題我們能夠快速回滾到上一版本
3. 每個介面至少保障2人知道相關業務,一旦線上服務出現問題,其中任何一人一個能夠快速處理相關線上問題
4. 不管是Mysql還是Redis等中間件都支持數據主備機群部署

類似的例子很多這裡就不再一一列舉了

3、負載均衡

將風險進行分攤避免分險擴散

例如:無論是Ngnix或者JSF的,其負載均衡目的就是儘量的將流量分散到不同的伺服器節點上,這樣可以有效的保障單節點因系統瓶頸
問題而引發一系列的風險。 

像上面這個例子我想每個研發人員都知道也都會這麼做,但是是不是所有的場景我們都考慮到均衡這個問題?

例如:通常為了提高讀併發的能力,我們會把數據緩存到JIMDB中,但是因為緩存的key出現了熱點數據導致JIMDB單分片負載過高,恰
好,這個分片上也緩存了其他數據,但是因為CPU負載過高,導致查詢性能變差,大量的超時,影響了業務。所以,我們在介面設計
的時候,假如遇到類似場景,也要充分考慮數據存儲的均衡性,同時針對熱點數據做好監控,隨時支持動態均衡。

4、資源隔離

隔離的目的將風險控制在可控範圍內,避免風險擴散

例如:介面部署之間服務部署物理上是相互隔離的,避免單機房或者單伺服器出現故障影響整個服務

例如:我們在存儲業務數據的時候會將數據分庫分表,數據通過不同分片存儲,這樣就不會導致某個伺服器掛掉影響到整個服務

5、介面限流

限流是一種保護措施,目的是將風險控制在可控範圍內

我們在開發介面的時候,一定要結合業務流量情況進行限流措施,限流一方面處於對自身服務資源的保護,同時也是對依賴資源的一種
保護措施。

目前集團JSF在流量控制這塊已經有了對應的限流處理能力,同時我們也可以結合實際業務進行限流模塊的開發。

6、服務熔斷

熔斷也是一種保護措施,目的是將風險控制在可控範圍內,避免風險擴散

例如:經常我們服務A會同時調用B、C、D多個服務,當我們依賴的服務其中一個出現故障或者性能下降的時候,就是導致整體服務
可用率下降,所以我們在開發此類服務的時候,一定要註意介面之間的隔離。我們可以利用類似Hystrix組件實現,也可以藉助DUCC
進行手動隔離。

其實熔斷也是一種控制資源依賴的一種,將強依賴降級為弱依賴

7、非同步處理

將同步操作轉為非同步操作

例如:用戶頁面領取一些權益,針對領取這個服務在大促期間因為用戶流量較大,為了避免系統負載,此時採用MQ非同步接收用戶領取
請求然後進行優惠券發放,這樣不僅極大的減少了事故的影響範圍,也減少問題發生概率。

8、降級方案

服務降級屬於一種問題發生後的補救措施,通過服務降級可以減少一部分風險影響範圍

對於重要的服務介面我們都要具備完善的降級方案,這裡需要說明的是,降級有損的,我們一定要在系統開發前就要考慮各種問題
發生的可能,降級的前提是通過降級非核心業務保證核心業務運行。

例如:大促峰值期間,一般會提前降級掉很多功能,同時限流,主要是為了保護峰值絕大部分人的交易支付體驗。

9、灰度發佈

通過灰度發佈降低風險影響範圍

例如:我們上線一個新服務,通過一定的灰度策略,讓用戶先行體驗新版本的應用,通過收集這部分用戶對新版本應用的反饋以及
對新版本功能、性能、穩定性等指標進行評論,進而決定繼續放大新版本投放範圍直至全量升級或回滾至老版本。根據線上反饋結果,
做到查漏補缺,發現重大問題,可回滾“舊版本”

10、混沌工程

通過提前對系統進行一些破壞性的手段,提前發現潛在問題

例如:一個複雜介面系統依賴了太多的服務和組件,這些組件隨時隨地都可能會發生故障,而一旦它們發生故障,會不會如蝴蝶效應
一般造成整體服務不可用呢,我們並不知道,因此我們可以藉助泰山平臺混沌工程進行演練,針對發生的場景制定各種預案,將風險
控制在可控範圍內。

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 一、audio標簽的使用 1、Audio 對象屬性 2、對象方法 二、效果 效果如下: 三、代碼 代碼如下: MusicPlayer.vue <template> <div class="music"> <!-- 占位 --> <div ...
  • 摘要:輸入網址並點回車,後臺到底發生了什麼。透析 HTTP 協議與 TCP 連接之間的千絲萬縷的關係。掌握為何是三次握手四次揮手?time_wait 存在的意義是什麼?全面圖解重點問題,再也不用擔心面試問這個問題。 本文分享自華為雲社區《輸入網址,小手一點,後面到底發生了什麼?》,作者:龍哥手記。 ...
  • 1.按鈕點擊後添加loading,介面返回成功後再移除loading(經過多次嘗試發現,此方法不能完全確保只調用一次介面,第二次添加時仍會多次調用介面),方法如下: html代碼: <el-button @click="onSave" :loading="onLoading">保存</el-butt ...
  • JavaScript 中,對於普通對象,不能直接使用 length 來獲取對象的長度,因為 JavaScript 對象並不是一種有序的集合,沒有長度的概念。 對於數組或者類數組對象,可以使用 .length 來獲取它們的長度,因為它們是有序集合。 對於字元串也可以使用.length來獲取長度,因為字... ...
  • 我們是袋鼠雲數棧 UED 團隊,致力於打造優秀的一站式數據中台產品。我們始終保持工匠精神,探索前端道路,為社區積累並傳播經驗價值。 前言 訪問控制(Access control)是指對訪問者向受保護資源進行訪問操作的控制管理。該控制管理保證被授權者可訪問受保護資源,未被授權者不能訪問受保護資源。 現 ...
  • 在 CSS 中,倒影是一種比較常見的效果。今天,我們就將嘗試,使用 CSS 完成各類不同的倒影效果,話不多說,直接進入主題。 實現倒影的兩種方式 首先,快速過一下在 CSS 中,實現倒影的 2 種方式。 使用 -webkit-box-reflect 正常而言,-webkit-box-reflect ...
  • 基於AWS雲SaaS多租戶架構設計租戶與用戶概念單租戶與多租戶多租戶的好處 採用多租戶架構方法將為你的SaaS應用程式帶來廣泛的有價值的好處。 讓我們來看看下麵的貢獻。 a) 利用多租戶架構策略,減少伺服器基礎設施成本。 與其為每個客戶創建一個SaaS環境,不如為所有客戶提供一個應用環境。這使你的A ...
  • 隨著互聯網的發展,用戶在使用網路時對網站的瀏覽速度和效果愈加重視,但由於網民數量激增,網路訪問路徑過長,從 而使用戶的訪問質量受到嚴重影響。特別是當用戶與網站之間的鏈路被突發的大流量數據擁塞時,對於異地互聯網用戶急速增加的地區來說,訪問質量不良更是一個 急待解決的問題。如何才能讓各地的用戶都能夠進行 ...
一周排行
    -Advertisement-
    Play Games
  • Timer是什麼 Timer 是一種用於創建定期粒度行為的機制。 與標準的 .NET System.Threading.Timer 類相似,Orleans 的 Timer 允許在一段時間後執行特定的操作,或者在特定的時間間隔內重覆執行操作。 它在分散式系統中具有重要作用,特別是在處理需要周期性執行的 ...
  • 前言 相信很多做WPF開發的小伙伴都遇到過表格類的需求,雖然現有的Grid控制項也能實現,但是使用起來的體驗感並不好,比如要實現一個Excel中的表格效果,估計你能想到的第一個方法就是套Border控制項,用這種方法你需要控制每個Border的邊框,並且在一堆Bordr中找到Grid.Row,Grid. ...
  • .NET C#程式啟動閃退,目錄導致的問題 這是第2次踩這個坑了,很小的編程細節,容易忽略,所以寫個博客,分享給大家。 1.第一次坑:是windows 系統把程式運行成服務,找不到配置文件,原因是以服務運行它的工作目錄是在C:\Windows\System32 2.本次坑:WPF桌面程式通過註冊表設 ...
  • 在分散式系統中,數據的持久化是至關重要的一環。 Orleans 7 引入了強大的持久化功能,使得在分散式環境下管理數據變得更加輕鬆和可靠。 本文將介紹什麼是 Orleans 7 的持久化,如何設置它以及相應的代碼示例。 什麼是 Orleans 7 的持久化? Orleans 7 的持久化是指將 Or ...
  • 前言 .NET Feature Management 是一個用於管理應用程式功能的庫,它可以幫助開發人員在應用程式中輕鬆地添加、移除和管理功能。使用 Feature Management,開發人員可以根據不同用戶、環境或其他條件來動態地控制應用程式中的功能。這使得開發人員可以更靈活地管理應用程式的功 ...
  • 在 WPF 應用程式中,拖放操作是實現用戶交互的重要組成部分。通過拖放操作,用戶可以輕鬆地將數據從一個位置移動到另一個位置,或者將控制項從一個容器移動到另一個容器。然而,WPF 中預設的拖放操作可能並不是那麼好用。為瞭解決這個問題,我們可以自定義一個 Panel 來實現更簡單的拖拽操作。 自定義 Pa ...
  • 在實際使用中,由於涉及到不同編程語言之間互相調用,導致C++ 中的OpenCV與C#中的OpenCvSharp 圖像數據在不同編程語言之間難以有效傳遞。在本文中我們將結合OpenCvSharp源碼實現原理,探究兩種數據之間的通信方式。 ...
  • 一、前言 這是一篇搭建許可權管理系統的系列文章。 隨著網路的發展,信息安全對應任何企業來說都越發的重要,而本系列文章將和大家一起一步一步搭建一個全新的許可權管理系統。 說明:由於搭建一個全新的項目過於繁瑣,所有作者將挑選核心代碼和核心思路進行分享。 二、技術選擇 三、開始設計 1、自主搭建vue前端和. ...
  • Csharper中的表達式樹 這節課來瞭解一下表示式樹是什麼? 在C#中,表達式樹是一種數據結構,它可以表示一些代碼塊,如Lambda表達式或查詢表達式。表達式樹使你能夠查看和操作數據,就像你可以查看和操作代碼一樣。它們通常用於創建動態查詢和解析表達式。 一、認識表達式樹 為什麼要這樣說?它和委托有 ...
  • 在使用Django等框架來操作MySQL時,實際上底層還是通過Python來操作的,首先需要安裝一個驅動程式,在Python3中,驅動程式有多種選擇,比如有pymysql以及mysqlclient等。使用pip命令安裝mysqlclient失敗應如何解決? 安裝的python版本說明 機器同時安裝了 ...