Java Chassis 3:介面維度負載均衡

来源:https://www.cnblogs.com/huaweiyun/p/18189116
-Advertisement-
Play Games

Java Chassis 3通過介面維度負載均衡的策略設置,為不同的應用場景提供了非常強大的負載均衡管理能力,幫助解決負載不均衡、會話粘滯等應用負載問題。 ...


本文分享自華為雲社區《Java Chassis 3技術解密:介面維度負載均衡》,作者: liubao68。

Java Chassis 3技術解密:負載均衡選擇器中解密了Java Chassis 3負載均衡在解決性能方面提供的演算法。這次解密的技術來源於實際客戶案例:

在客戶的微服務系統中,存在很多種不同邏輯的介面,以及特殊的訪問模式,經常會出現部分實例線程池排隊嚴重,而其他實例負載不高的負載不均衡現象。比如:微服務A訪問微服務B,微服務B存在B1、B2兩個實例,OP1、OP2兩個介面,其中OP1處理比較耗時,占用較多CPU時間,OP2處理較快。微服務A的業務邏輯會以OP1、OP2、OP1、OP2…這樣的訪問模式調用微服務B。客戶系統會經常出現OP1全部訪問B1、OP2全部訪問B2的現象。

產生這個問題的原因是Round Robin演算法根據請求順序來分配實例,而未差異化考慮不同請求的均衡要求。解決這個問題最簡單直接的思路是使用Random演算法,但是在進行負載均衡演算法選擇的時候,可預期性對於問題定位、問題分析、問題規避等都有非常大的便利,因此Round Robin演算法仍然是預設的最優選擇。

Java Chassis 3的解決方案是提供介面維度的負載均衡。

cke_132.png

預設場景,Java Chassis為每個契約(Schema)創建一個負載均衡,如果OP1和OP2分別屬於UserService和LoginService,那麼在上述示例的場景中,開發者不需要做任何配置,流量會自動實現均衡。

如果OP1和OP2都屬於LoginService,並且需要保證OP1的流量均衡,可以通過配置:

servicecomb.loadbalance.${微服務B}.${契約名稱}.${介面名稱}.strategy.name=RoundRobin

比如:

servicecomb.loadbalance.B.LoginService.login.strategy.name=RoundRobin

給耗時請求OP1(login)設置不同的負載均衡。

進一步討論

從上述負載均衡的原理可以看出,假設微服務X會訪問M個微服務,每個微服務平均有N個契約,那麼X會創建M * N的負載均衡。對於大多數系統,這個數量級都在1K以內。一般的,只需要對於耗時的介面分配獨立的負載均衡,以保證耗時請求的流量均衡。除瞭解決流量均衡問題,Java Chassis的配置方法,還可以針對其他特殊場景提供非常簡潔的配置方案,比如可以通過配置:

servicecomb.loadbalance.${微服務B}.${契約名稱}.${介面名稱}.strategy.name=SessionStickiness

為具體的介面指定會話粘滯策略。

總結

Java Chassis 3通過介面維度負載均衡的策略設置,為不同的應用場景提供了非常強大的負載均衡管理能力,幫助解決負載不均衡、會話粘滯等應用負載問題。

 

點擊關註,第一時間瞭解華為雲新鮮技術~

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • nginx 系列 Nginx-01-聊一聊 nginx Nginx-01-Nginx 是什麼 Nginx-02-為什麼使用 Nginx Nginx-02-Nginx Ubuntu 安裝 + windows10 + WSL ubuntu 安裝 nginx 實戰筆記 Nginx-02-基本使用 Ngin ...
  • JPEG庫的移植(arm平臺) 目錄JPEG庫的移植(arm平臺)介紹頭文件及全局變數1、圖片顯示2、其他圖片壓縮到jpg圖片3、主函數及驗證程式輸出結果 介紹 圖解 頭文件及全局變數 #include <stdio.h> #include <stdlib.h> #include <sys/type ...
  • 寫在前面 這部分真的感覺超級難,其實也不能說難,主要是真的想不到這個思路應該這麼做,或者說他好厲害,他怎麼知道該這麼設計實現。 說下難點吧,我覺得後天邏輯還好,主要是前端部分真的需要點花點時間來思考,比如佈局、交互設計的實現等等。 文檔頁面功能開發 1、任務拆解 增加文檔頁面,首頁點擊電子書時,跳轉 ...
  • NumPy 數組的複製與視圖 NumPy 數組的複製和視圖是兩種不同的方式來創建新數組,它們之間存在著重要的區別。 複製 複製 會創建一個包含原始數組相同元素的新數組,但這兩個數組擁有獨立的記憶體空間。這意味著對複製進行的任何更改都不會影響原始數組,反之亦然。 創建副本可以使用以下方法: arr.co ...
  • title: Django 安全性與防禦性編程:如何保護 Django Web 應用 date: 2024/5/13 20:26:58 updated: 2024/5/13 20:26:58 categories: 後端開發 tags: CSRF XSS SQL Upload HTTPOnly Pa ...
  • 正文 感覺自己這兩天摸魚有些嚴重(笑。 前兩天有件事忘了寫了。周六晚去吃飯和拍照的時候,看見有個女生坐在路邊,紅著眼睛跟誰打電話,語氣裡帶一股哭腔。身上穿著校服,我想應該是高中生。身邊沒有人。我不知道什麼事情能讓人發火又哭泣,覺得有些奇怪,也不知道怎麼寬慰這個陌生人。想了想,跑去小賣部買了瓶怡寶,放 ...
  • 在將紙質文檔掃描成PDF電子文檔時,有時可能會出現頁面方向翻轉或者頁面順序混亂的情況。為了確保更好地瀏覽和查看PDF文件,本文將分享一個使用Python來旋轉PDF頁面或者調整PDF頁面順序的解決方案。 要實現Python對PDF頁面進行設置,我們需要用到第三方庫 Spire.PDF for Pyt ...
  • theme: condensed-night-purple highlight: androidstudio 主從複製原理 建立連接 從節點在配置了 replicaof 配置了主節點的ip和port 從庫執行replicaof 併發送psync命令 同步數據到從庫 主庫bgsave生成RDB文件,並 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...