【大話雲原生】負載均衡篇-小飯館客流量變大了

来源:https://www.cnblogs.com/zimug/archive/2022/04/21/16172552.html
-Advertisement-
Play Games

一、前言 這是《大話雲原生》系列的第二篇,第一篇《煮餃子與docker、kubernetes之間的關係》推出之後受到大家的歡迎,很多朋友聯繫到我給我加油打氣,感謝!我會繼續寫下去! 書接上回介紹了《煮餃子與docker、kubernetes之間的關係》之後,小娜同學(我老婆)問:為什麼不把服務統一開 ...


一、前言

這是《大話雲原生》系列的第二篇,第一篇《煮餃子與docker、kubernetes之間的關係》推出之後受到大家的歡迎,很多朋友聯繫到我給我加油打氣,感謝!我會繼續寫下去!
書接上回介紹了《煮餃子與docker、kubernetes之間的關係》之後,小娜同學(我老婆)問:為什麼不把服務統一開發成一個應用?搞什麼分散式?這樣感覺很龐大,很複雜啊?為什麼要這麼搞?所以大話雲原生第二篇-負載均衡篇,現在開始!

二、從路邊攤說起

周五晚上加了班,下班的時候已經很晚了,打電話給小娜打算去吃燒烤,就去我們經常去的那家“夫妻攤位”燒烤。到了之後才發現“夫妻攤位”升級了,現在變成了“夫妻飯館”。由於已經比較晚了,店裡人並不多,就和老闆娘聊了起來。聊聊小飯館的昨天、今天和明天!

老闆娘介紹到:“以前路邊攤的時候我倆剛結婚,手裡資金有限,就想著開一個路邊燒烤攤。我老公負責烤串做菜,我呢、負責服務收銀及上菜。掙點小錢!”。老闆娘謙虛,等我年紀大了沒準也搞個烤串的營生,誰讓我愛吃呢!老闆娘說之所以能走到今天,主要是因為以下幾點:

  • 她的攤位很少會出現長時間的等菜的現象。因為攤位的桌椅板凳的容量通常是有限的,通常也沒那麼多客人,食品總的需求量的上限也基本是固定的,相對好協調。
  • 溝通順暢、快速,這頭點菜點串吼一嗓子、那邊就開始做上了。做好了再吼一嗓子,就上菜了。
  • 短小精悍、容易掉頭。夫妻倆之所以選擇從路邊攤開始,是因為船小好掉頭。有可能幹一陣發現這個位置客流少,就可以立刻停止經營或者換個地方經營。

哎,別說,夫妻倆這個階段就有點像一些軟體服務創業公司,剛開始創業的時候,一般做的應用服務都是單體應用。筆者也見過一些小型創業公司上來就想搞微服務雲原生,我覺得這不太現實。企業的架構都是一步一步衍進的,不要總想著一口吃一個胖子。如果京東淘寶從第一天做應用服務的時候就想做成今天的樣子,他們一定活不到今天。就像一個沒開過飯店的人第一次創業就要開五星級飯店,等待他的十有八九就是失敗!

file

這裡我所說的單體應用的特點,其實和路邊攤的特點是差不多的:

  • 能夠接納的請求數量時有限的,一是從需求上沒那麼多用戶,二是創業公司資源限制,伺服器的記憶體、CPU配置是有限的。
  • 單體應用的視圖層、控制層、持久層全都在一個應用裡面,調用方便、響應快速。服務間沒有遠程調用RPC,響應速度更快一些,具體到某個服務請求的響應結果更快。
  • 開發簡單、上手快、三五個人團隊好管好用。老闆決定不幹了,隨時可以掉頭,基本不太肉疼。

還是要祝賀老闆娘啊,生財有道,還會總結經驗!

三、開飯館與負載均衡

前一段時間就已經有人願意為了吃他們夫妻做的燒烤排隊了,這夫妻倆一想,我們這倆人也乾不過來啊,怎麼辦?招人吧、擴大規模吧。

  • 招什麼人?當然是廚師啊、端菜收銀的妻子自己還能幹得過來,主要是丈夫的活挺不住了,對,那就招廚師。
  • 不能讓多出來的客人站著吃吧?租一個附近的門市、添置更多的桌椅板凳。

同樣的道理,軟體應用中的單體應用服務扛不住用戶需求了怎麼辦,加伺服器啊,多部署幾個服務啊,負載均衡啊。

說說客戶端負載均衡與服務端負載均衡

  • 小夫妻兩一口氣為飯館配置了三個廚師(含丈夫),這下可夠用了。妻子將單號訂單給張廚師、雙號訂單給李廚師,兩人都乾不過來了,再將訂單給丈夫。反正外人不用白不用,自己家人能歇會就歇會。她說給誰就給誰,她有自己的一套演算法。這種模式就是“客戶端負載均衡”,妻子作為客戶端調用“廚師”服務,會記得總共有幾個廚師,然後按照自己的演算法將用戶請求轉發給其中一個廚師。我們常見的Spring Cloud每個服務請求其他微服務的時候,都在其內部維護一個微服務列表,然後根據請求目標及演算法從微服務中選擇一個服務進行遠程服務調用。
  • 有一天這倆廚師提出意見:這麼乾太累了沒有閑著時候,要麼丈夫多出力,要麼漲工資。夫妻倆一合計現在實力也不是很雄厚,還是丈夫多出力吧。那妻子也就沒有必要記住“訂單的單雙號”了,就使用一款app輸入顧客訂單,該app可以實現訂單的均衡分配給廚師。“這種模式就是“服務端負載均衡””。對於軟體架構而言該app就是負載均衡器,常用的軟體負載均衡器有nginx、haproxy等。還有一些硬體的負載均衡器,性能上要更好一些,當然收費也更“好”。架構如下圖所示:

file

利與弊:

  • “利”就是應用的處理能力增加了,能夠處理更多的訂單。
  • “弊”就是溝通成本增加了,原來吼一嗓子解決的問題,現在需要靠app轉發了(負載均衡器)。無論是遠程服務調用,還是請求轉發轉發都是耗時的。

也就是說:飯店(應用服務)現在處理請求吞吐量上的能力增強了,但是在單個請求的處理速度上實際上是下降了。實際上這就是服務拆分的結果,服務拆分就是在 “用時間換空間” 。各位細品!

四、飯後溝通

吃完烤串之後,我將上面的一套理論將給了小娜,她很感興趣:“軟體架構真是脫離不開實際生活啊,到處都是活生生的例子”。我趁勢吹起了牛逼:“這才哪到哪,下回帶你去個大飯店見見世面,有微服務的大飯店!”。

歡迎關註我的博客,更多精品知識合集

本文轉載註明出處(必須帶連接,不能只轉文字):字母哥博客 - zimug.com

覺得對您有幫助的話,幫我點贊、分享!您的支持是我不竭的創作動力!。另外,筆者最近一段時間輸出瞭如下的精品內容,期待您的關註。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • HMS Core廣告服務開髮指南中提到“xxxx為測試專用的廣告位ID,App正式發佈時需要改為正式的廣告位ID”,那麼今天咱們就來說說,怎麼獲取正式的廣告位ID。 測試廣告位ID和正式廣告位ID有什麼區別? 測試廣告位ID:不區分應用和條件,在中國大陸和非中國大陸都可以請求廣告,有利於開發者在集成 ...
  • 這幾天電腦有點問題,一直在弄,而且論文也逼近了也在時間弄那個 ,前面node有一個大項目,已經做完了,我現在是準備把上次複習斷下的繼續複習一直到這個項目,然後就開始vue了。 1. 首先是函數的一個進階,要明白函數也是對象,所以是可以通過new的方法來創建實例的。 然後是調用函數的三個方法:call ...
  • 作者:zxg_神說要有光 原文鏈接:https://juejin.cn/post/7087172219226292237 React 的 hooks 是在 fiber 之後出現的特性,所以很多人誤以為 hooks 是必須依賴 fiber 才能實現的,其實並不是,它們倆沒啥必然聯繫。 現在,不止 re ...
  • <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <meta http-equiv="X-UA-Compatible" content="IE=edge"> <meta name="viewport" content="wi ...
  • 註釋快捷鍵——ctrl+/ 標題標簽H1-H6 H1-H6屬性:align="left/center/right" 左 中 右 段落標簽 <p></p> <p></p>屬性:align="left/center/right" 左 中 右 換行標簽<br> 分割線<hr> &nbsp:空格 一個漢字占 ...
  • 說到防抖和節流相信大家都不陌生,這兩個東西大家可能多多少少都有用到過,最少也有聽。簡單來說,防抖和節流都是用來減少函數執行的頻率,以達到優化項目性能或者實現特定功能的效果。 ...
  • 最近項目中用到可視化地圖,正好這幾天有空整理下以方便以後快速上手使用的記錄。 不廢話~ 我們項目是用的uinapp 剛開是也是npm 裝包 npm install echarts -S //或 cnpm install echarts -S 你隨意。 window.wx = undefined; 這 ...
  • 外觀(門面)模式 化零為整,把零碎的功能拼成一個整體,對外提供一個統一介面,用來訪問子系統中的多個介面。 總結 解耦,不需要一個個對接,使用簡單。 單例模式 負責創建對象,同時確保只有單個對象被創建。 餓漢式 線程安全,在類載入時就會進行初始化,訪問時直接使用。 public class Stude ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...