《RPC實戰與核心原理》學習筆記Day11

来源:https://www.cnblogs.com/wing011203/archive/2023/01/28/17071257.html
-Advertisement-
Play Games

這篇文章主要討論在RPC框架下如何優雅關閉和啟動服務,包括服務提供方如何通知調用方服務關閉重啟信息,服務提供方如何在關閉後處理現有請求和心情求;服務啟動時,如何實現啟動預熱和延遲暴露。 ...


13 | 優雅關閉:如何避免服務停機帶來的業務損失?

我們在RPC架構下,需要考慮當服務重啟時,如何做到讓調用方系統不出問題。

當服務提供方要上線時,一般是通過部署系統完成實例重啟,在這個過程彙總,服務提供方不會事先告訴調用方哪些實例會被重啟,從而讓調用方切換流量。而對調用方來說,它也無法預測服務提供方哪些實例會重啟,因此負載均衡還是有可能降正在重啟的實例挑選出來,這樣導致請求被分發到正在重啟的服務實例中,造成調用方無法拿到正確的響應結果。

在服務重啟的時候,對於調用方來說,有以下2種情況:

  1. 調用方發請求前,目標服務已經下線。對於調用方來說,跟目標節點的連接會斷開,這時調用可以立刻感知到,併在其健康列表中將該實例刪除,這樣就不會被負載均衡選中。
  2. 調用方發請求時,目標服務正在關閉,但調用方並不知道它正在關閉,而且兩者之間的連接沒有斷開,所以這個節點還會存在健康列表裡面,有可能會被負載均衡選中。

我們可以通過服務發現來實時通知服務調用方關於服務提供方是否可用嗎?

不可以。這樣做的話,整個過程會依賴兩次RPC調用:一次是服務提供方通知註冊中心下線操作,一次是註冊中心通知服務調用方下線節點操作。註冊中心通知服務調用方都是非同步的,服務發現只保證最終一致性,並不保證實時性,所以當註冊中心收到服務提供方下線的時候,並不能保證把這次要下線的節點推送給所有調用方,這樣,調用方還是有可能將請求發送給錯誤的服務提供方節點。

如何做到優雅關閉服務?

我們可以嘗試讓服務提供方來通知調用方,RPC裡面調用方和提供方之間是長連接,我們可以在提供方應用記憶體中維護一份調用方連接集合,當服務關閉時,挨個通知調用方去下線相關實例,這樣整個調用鏈路就變短了,對於每個調用方來說只一次RPC,可以確保調用的成功率很高。

但是上述方法不能徹底解決問題,因為有時出問題請求的時間點和收到提供方關閉通知的時間點很接近,再加上網路延遲,還是有可能在服務提供方關閉服務後再接收到新的請求。

解決辦法是我們在關閉的時候,在服務提供方設置一個請求“擋板”,它的作用是告訴調用方,我已經進入關閉流程,不能再處理新的請求了。

當服務提供方正在關閉,如果在之後還收到了新的業務請求,服務提供方直接返回一個特定的異常給調用方(ShutdownException),這個異常就是告訴調用方“我已經收到這個請求了,但是我正在關閉,沒有處理這個請求”,然後調用方收到這個異常響應後,RPC框架就把這個節點從健康列表中挪出,並把請求自動重試到其他節點,因為這個請求沒有被服務提供方處理過,所以可以安全的重試到其他節點,這樣可以實現對業務無損。

我們還可以加上主動通知流程,讓服務提供方給相關調用方發送關閉通知,這樣既可以保證實時性,也可以避免通知失敗的情況。

在Java語言中,我們可以使用Runtime.addShudownHook方法,來註冊關閉的鉤子,在RPC啟動的時候,我們提前去註冊關閉鉤子,併在裡面添加連個處理程式:一個複雜開啟關閉標識,一個負責安全關閉服務對象,服務對象在關閉的時候會通知調用方下線節點。同時我們需要再調用鏈裡面加上擋板處理器,當新的請求進來時,會判斷關閉標識,如果正在關閉,就拋出特定異常。

對於關閉過程中還在處理的請求,我們可以根據引用計數器,等待正在處理的請求全部結束後再真正關閉服務,同時還可以設置一個超時控制,當超過指定時間,請求還沒有處理完,就強制退出應用。

總結一下,關於如何優雅關閉服務,包括以下步驟:

  1. 開啟關閉擋板,拒絕新的請求
  2. 利用引用計數器確保正在執行的請求處理完
  3. 設置超時時間,保證服務可以正常關閉
  4. 執行關閉時,服務提供方通知服務調用方下線相關節點

服務優雅關閉的示意圖如下。

“優雅關閉”的概念除了在RPC裡面,在其他很多框架中也很常見,例如Tomcat在關閉的時候,也是先從外層到裡層逐層進行關閉,先保證不接收新的請求,然後再處理關閉前收到的請求。

14 | 優雅啟動:如何避免流量達到沒有啟動完成的節點?

為什麼Java程式運行一段時間會執行速度會變快?

這是因為在Java裡面,在運行過程中,JVM虛擬機會把高頻的代碼編譯成機器碼,被載入過的類也會被緩存到JVM緩存中,再次使用的時候就不會觸發臨時載入,這樣就使得
“熱點”代碼的執行不用每次都通過解釋,從而提升執行速度。

什麼是啟動預熱?

啟動預熱就是讓剛啟動的服務提供方應用不承擔全部的流量,而是讓它被調用的次數隨著時間的移動慢慢增加,最終讓流量緩和地增加到跟已經運行一段時間後的水平一樣。

服務調用方應用通過服務發現能夠取得服務提供方的IP地址,然後每次發送請求前,都需要通過負載均衡演算法從連接池中選擇一個可用連接,我們可以讓負載均衡在選擇連接的時候,區分一下是不是剛啟動的應用,如果是剛啟動的應用,我們可以調低它的權重值,這樣它被選中的概率會很低,隨著時間推移,我們逐漸增大它的權重值,從而實現一個動態增加流量的效果。

我們如何獲取服務提供方應用的啟動時間?有兩種方法:

  1. 服務提供方在啟動的時候,把自己啟動的時間告訴註冊中心。
  2. 註冊中心收到的服務提供方請求註冊的時間。

啟動越熱更多是從調用方的角度出發,去解決服務提供方應用冷啟動的問題,讓調用方的請求量通過一個時間視窗過渡,慢慢達到一個正常的水平,從而實現平滑上線。

從服務提供方的角度來說,有什麼優化方案嗎?服務提供方可以使用延遲暴露的方法來優化熱啟動過程。

問題:服務提供方應用在沒有完成啟動的時候,調用方的請求就過來了,而調用方請求過來的原因,在於服務提供方應用啟動過程中把解析到的RPC服務註冊到了註冊中心,這就導致了後續載入沒有完成的情況下,服務提供方地址就被服務調用方感知到了。

解決辦法:我們在應用啟動載入、解析Bean的時候,如果遇到了RPC服務的Bean,只先把這個Bean註冊到Spring-BeanFactory裡面,而不把這個Bean對應的介面註冊到註冊中心,只有等應用啟動完成後,才被介面註冊到註冊中心用於服務發現,從而實現讓服務調用方延遲獲取到服務提供方地址。

我們還可以利用服務啟動完成到註冊到註冊中心的那段時間,預留一個Hook,讓用戶可以擴展Hook邏輯,在Hook裡面模擬業務調用邏輯,從而使得JVM指令能夠預熱起來,同時還可以在Hook中預先載入一些資源,只有等所有緩存和資源都載入完成後,才把介面註冊到註冊中心,這樣也就完成了熱啟動整個流程。

如果我們有大批量的服務都需要重啟,如何避免同時重啟造成請求被分發到新啟動的應用實例而造成超時錯誤?

我們可以採取一些措施:

  1. 分時分批啟動,就像灰度發佈一樣。
  2. 根據重啟比例來設置重啟服務的權重。
  3. 在請求低峰重啟應用。
  4. 在重啟過程中,如有必要,對服務進行限流處理。
    作者:李潘     出處:http://wing011203.cnblogs.com/     本文版權歸作者和博客園共有,歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則保留追究法律責任的權利。
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 主題說明 打開博客園的隨筆詳細頁、標簽頁等,都是整頁重新載入,比較影響體驗。SPA 應用可以減少整頁載入,實現局部刷新,本皮膚通過 Vue3 + TS + Vite 開發的。有些細節待日後逐步完善,隨筆的閱讀和使用基本上沒有問題,文章、日記、部分側邊欄內容還沒有實現。 倉庫地址:GitHub,請點個 ...
  • 值和類型 八種數據類型 undefined、null、boolean、number、string、symbol、bigint、object 原始值和引用值 原始值:按值訪問。值存儲在棧中。變數賦值傳遞時會創建該值的副本,兩個變數(複製與被覆制)完全獨立。 常見原始值類型:undefined、null ...
  • 參考:https://www.cnblogs.com/lxlx1798/articles/16969244.html 要麼使用流讀取器,要麼使用 Reponse 的方法來獲取結果,不能同時使用兩種方法來讀取相同的響應。 直接獲取: Response.blob() 方法返回一個 resolve 返回值 ...
  • 說起轉義字元,大家最先想到的肯定是使用反斜杠,這也是我們最常見的,很多編程語言都支持。 轉義字元從字面上講,就是能夠轉變字元原本的意義,得到新的字元。常用在特殊字元的顯示以及特定的編碼環境中。 除了反斜杠以外,在前端開發中,還有其他幾種轉義字元,也是較常見的,本文將對這些做一個總結。 字元串中的轉義 ...
  • 張建飛是阿裡巴巴高級技術專家,一直在致力於應用架構和代碼複雜度的治理。最近,他在看零售通商品域的代碼。面對零售通如此複雜的業務場景,如何在架構和代碼層面進行應對,是一個新課題。結合實際的業務場景,他沉澱了一套“如何寫複雜業務代碼”的方法論,在此分享給大家,相信同樣的方法論可以複製到大部分複雜業務場景... ...
  • *以下內容為本人的學習筆記,如需要轉載,請聲明原文鏈接 微信公眾號「englyf」https://mp.weixin.qq.com/s/2GFLTstDC7w6u3fTJxflNA 本文大概 1685 個字,閱讀需花 6 分鐘內容不多, 但也花了一些精力如要交流, 歡迎關註我然後評論區留言 謝謝你的 ...
  • 題目描述 運行 C 程式,輸出 100 至 200 之間的質數。 輸入描述 無 輸出描述 輸出 100 至 200 之間的質數,每行輸出一個質數,每個質數前面需要帶有序號。 輸出樣例 解題思路 在《一文解決如何使用 C 語言判斷質數(素數)》一文中,我詳細講解了質數以及如何使用 C 語言判斷質數,本 ...
  • 實現Spring底層機制-02 3.實現任務階段1 3.1知識拓展-類載入器 Java的類載入器有三種: Bootstrap類載入器 對應路徑 jre/lib Ext類載入器 對應路徑 jre/lib/ext App類載入器 對應路徑 classpath classpath 類路徑,就是java.e ...
一周排行
    -Advertisement-
    Play Games
  • PasteSpider是什麼? 一款使用.net編寫的開源的Linux容器部署助手,支持一鍵發佈,平滑升級,自動伸縮, Key-Value配置,項目網關,環境隔離,運行報表,差量升級,私有倉庫,集群部署,版本管理等! 30分鐘上手,讓開發也可以很容易的學會在linux上部署你得項目! [從需求角度介 ...
  • SQLSugar是什麼 **1. 輕量級ORM框架,專為.NET CORE開發人員設計,它提供了簡單、高效的方式來處理資料庫操作,使開發人員能夠更輕鬆地與資料庫進行交互 2. 簡化資料庫操作和數據訪問,允許開發人員在C#代碼中直接操作資料庫,而不需要編寫複雜的SQL語句 3. 支持多種資料庫,包括但 ...
  • 在C#中,經常會有一些耗時較長的CPU密集型運算,因為如果直接在UI線程執行這樣的運算就會出現UI不響應的問題。解決這類問題的主要途徑是使用多線程,啟動一個後臺線程,把運算操作放在這個後臺線程中完成。但是原生介面的線程操作有一些難度,如果要更進一步的去完成線程間的通訊就會難上加難。 因此,.NET類 ...
  • 一:背景 1. 講故事 前些天有位朋友在微信上丟了一個崩潰的dump給我,讓我幫忙看下為什麼出現了崩潰,在 Windows 的事件查看器上顯示的是經典的 訪問違例 ,即 c0000005 錯誤碼,不管怎麼說有dump就可以上windbg開幹了。 二:WinDbg 分析 1. 程式為誰崩潰了 在 Wi ...
  • CSharpe中的IO+NPOI+序列化 文件文件夾操作 學習一下常見的文件、文件夾的操作。 什麼是IO流? I:就是input O:就是output,故稱:輸入輸出流 將數據讀入記憶體或者記憶體輸出的過程。 常見的IO流操作,一般說的是[記憶體]與[磁碟]之間的輸入輸出。 作用 持久化數據,保證數據不再 ...
  • C#.NET與JAVA互通之MD5哈希V2024 配套視頻: 要點: 1.計算MD5時,SDK自帶的計算哈希(ComputeHash)方法,輸入輸出參數都是byte數組。就涉及到字元串轉byte數組轉換時,編碼選擇的問題。 2.輸入參數,字元串轉byte數組時,編碼雙方要統一,一般為:UTF-8。 ...
  • CodeWF.EventBus,一款靈活的事件匯流排庫,實現模塊間解耦通信。支持多種.NET項目類型,如WPF、WinForms、ASP.NET Core等。採用簡潔設計,輕鬆實現事件的發佈與訂閱。通過有序的消息處理,確保事件得到妥善處理。簡化您的代碼,提升系統可維護性。 ...
  • 一、基本的.NET框架概念 .NET框架是一個由微軟開發的軟體開發平臺,它提供了一個運行時環境(CLR - Common Language Runtime)和一套豐富的類庫(FCL - Framework Class Library)。CLR負責管理代碼的執行,而FCL則提供了大量預先編寫好的代碼, ...
  • 本章將和大家分享在ASP.NET Core中如何使用高級客戶端NEST來操作我們的Elasticsearch。 NEST是一個高級別的Elasticsearch .NET客戶端,它仍然非常接近原始Elasticsearch API的映射。所有的請求和響應都是通過類型來暴露的,這使得它非常適合快速上手 ...
  • 參考delphi的代碼更改為C# Delphi 檢測密碼強度 規則(仿 google) 仿 google 評分規則 一、密碼長度: 5 分: 小於等於 4 個字元 10 分: 5 到 7 字元 25 分: 大於等於 8 個字元 二、字母: 0 分: 沒有字母 10 分: 全都是小(大)寫字母 20 ...