聊聊秒殺系統的設計(三)

来源:https://www.cnblogs.com/hhhnicvscs/archive/2022/09/19/16707557.html
-Advertisement-
Play Games

前言 秒殺請求在高度集中在某一個時間點。這樣一來,就會導致一 個特別高的流量峰值,它對資源的消耗是瞬時的 。能夠搶到商品的人數是有限的,也就是說10人和1000人發 起請求的結果都是一樣的。也就是說真正開始下單時,秒殺請求並不是越多越好。 一、秒殺中的削峰 猶豫伺服器的處理資源是恆定的,用或者不用它 ...


前言

秒殺請求在高度集中在某一個時間點。這樣一來,就會導致一 個特別高的流量峰值,它對資源的消耗是瞬時的 。能夠搶到商品的人數是有限的,也就是說10人和1000人發 起請求的結果都是一樣的。也就是說真正開始下單時,秒殺請求並不是越多越好。


一、秒殺中的削峰

由於伺服器的處理資源是恆定的,用或者不用它的處理能力都是一樣的,出現峰值的話,很容易導致忙到處理不過來,閑的時候卻又沒有什麼要處理。為了保證服務質量,很多處理資源只能按照忙時預估,而這會導致資源浪費。 削峰可以讓服務端處理變得更加平穩,還可以節省伺服器的資源成本。針對秒殺這一場景,削峰從本質上來說就是更多地延緩用戶請求的發出,以便減少和過濾掉一些無效請求。

常見秒殺流量削峰的一些操作思路:消息隊列、答題器、數據過濾。

1.消息隊列

其中最容易想到的解決方案就是用消息隊列來緩衝瞬時流量,把同步的直接調用轉換成非同步的間接推送,通過隊列在一端承接瞬時的流量洪峰,在另一端平滑地將消息推送出去,在這裡,消息隊列就像“水庫"一樣,攔蓄上游的洪水,削減進入下游的洪峰流量。

但是,如果流量峰值持續時間達到了消息隊列的處理上限,消息隊列同樣也會被壓垮,這樣雖然保護了下游的系統,但是和直接把請求丟棄也沒多大的區別。就像遇到洪水爆發時,即使是有水庫恐怕也無濟於事。在這種情況下,我們要把“一步的操作”變成“兩步的操作”,其中增加的操作用來起到緩衝的作用,例如利用線程池加鎖等待、採用先進先出、先進後出等常用的記憶體排隊演算法。

2.答題器

添加答題器第一個目的是防止部分買家使用秒殺器在參加秒殺時作弊,第二個目的就是延緩請求,起到削峰的作用。把請求的時間從瞬時延長到了幾秒,這樣會大大減輕對伺服器的壓力。而且後續請求到達伺服器時已經沒有庫存了,真正的併發處理就很有限了。

答題器生成的題目不需要很複雜,為了防止被破解可以添加圖片噪點。同時在CDN上緩存圖片,避免成為秒殺活動中的短板,影響用戶體驗。

3.數據過濾

這裡提到的數據過濾有點像某些企業在招聘時,把簡歷隨機抽出一部分扔掉一樣,只不過抽取的過程可以設置一定的規則,過濾掉那些無效的請求。在不同的處理層根據不同的規則有效的過濾,例如對寫數據進行基於時間的合理分片,過濾掉過期的失效請求;對寫數據進行強一致性校驗,只保留最後有效的數據。

這麼做的目的是在讀系統中,儘量減少由於一致性校驗帶來的系統瓶頸,但是儘量將不影響性能的檢查條件提前,如用戶是否具有秒殺資格、商品狀態是否正常、用戶答題是否正確、秒殺是否已經結束、是否非法請求等;在寫數據系統中,主要對寫的數據做一致性檢查,最後在資料庫層保證數據的最終準確性。

二、秒殺中的服務性能優化

服務端性能, 一般用QPS來衡量, 還有一個和QPS息息相關的是響應時間, 它可以理解為伺服器處理響應的耗時。

正常情況下響應時間越短, 一秒鐘處理的請求數(QPS) 自然也就會越多, 這在單線程處理的情況下看起來是線性的關係,即我們只要把每個請求的響應時間降到最低,那麼性能就會最高。

這個兩個因素到底會造成什麼樣的影響?首先, 我們先來看看響應時間和QPS的關係,對於大部分的Web系統而言響應時間一般都是由CPU執行時間和線程等待時間組成,也許你會說為什麼不去減少這種等待時間,其實減少線程等待時間對提升性能的影響沒有我們想象得那麼大, 這點在很多代理伺服器上可以做驗證,如果代理伺服器本身沒有CPU消耗, 我們在每次給代理伺服器代理的請求加個延時, 即增加響應時間,這對代理伺服器本身的吞吐量並沒有多大的影響,因為代理伺服器本身的資源並沒有被消耗。

真正對性能有影響的是CPU的執行時間, 因為CPU的執行真正消耗了伺服器的資源, 我們應該致力於減少CPU的執行時間。

對於Java系統可優化的地方很多,除了常見的代碼優化外,以下的內容值得註意。

Java和通用的Web伺服器相比,在處理大併發的HTTP請求時要弱一點, 所以一般我們都會對大流量的Web系統做靜態化改造,讓大部分請求和數據直接在Nginx伺服器或者Web代理伺服器上直接返回 , 而Java層只需處理少量數據的動態請求。

針對這些請求, 我們可以使用以下手段進行優化:

1.直接使用Servlet處理請求, 避免使用傳統的MVC框架, 這樣可以繞過一大堆複雜且用處不大的處理邏輯, 直接輸出流數據。使用resp.getOutputStream)而不是resp.get Writer函數, 可以省掉一些不變字元數據的編碼, 從而提升性能。

2.數據輸出時推薦使用JSON而不是模板引擎來輸出頁面。

3.集中式緩存為了保證命中率一般都會採用一致性Hash, 所以同一個key會落到同一臺機器上。那麼,該如何徹底解決單點的瓶頸呢? 答案是採用應用層的Local Cache。你需要劃分成動態數據和靜態數據。

像商品中的標題和描述這些本身不變的數據,會在秒殺開始之前全量推送到緩存直到到秒殺結束。

像庫存這類動態數據的方式緩存一定時間,失效後再去緩存拉取最新的。你可能還會有疑問:像庫存這種頻繁更新的數據,一旦數據不一致,會不會導致超賣? 這就要用到前面介紹的讀數據的分層原則了,讀的場景可以允許一定的臟數據,因為這裡的誤判只會導致少量原本無庫存的下單請求被誤認為有庫存,可以等到真正寫數據時再保證最終的一致性。 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • ⚠️1.1萬長文⚠️ React源碼並非洪水猛獸,知道方法,就可以很輕易地馴服它(=^▽^=)。文章基於最新的React源碼進行調試及閱讀,將以通俗地方式解讀React ...
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 一、axios簡介 axios是什麼? Axios 是一個基於 promise 的 HTTP 庫,可以用在瀏覽器和 node.js 中。 axios有什麼特性?(不得不說面試被問到幾次) 從瀏覽器中創建 XMLHttpRequests 從 ...
  • 前端學科面試寶典 蔡威 [電子郵件地址] HTML5、CSS3...................................................................................................................... ...
  • 筆者最近在看 你不知道的JavaScript上捲,裡面關於 this 的講解個人覺得非常精彩。JavaScript 中的 this 算是一個核心的概念,有一些同學會對其有點模糊和小恐懼,究其原因,現在對 this 討論的文章很多,讓我們覺得 this 無規律可尋,就像一個幽靈一樣 如果你還沒弄懂 t ...
  • 在面向對象的程式設計中,模塊之間交互採用介面編程,通常情況下調用方不需要知道被調用方的內部實現細節,因為一旦涉及到了具體實現,如果需要換一種實現就需要修改代碼,這違反了程式設計的"開閉原則"。所以我們一般有兩種選擇:一種是使用API(Application Programming Interface ...
  • 我的設計模式之旅。本節學習了適配器模式。從程式調用第三方庫時遇到的問題著手,思考如何讓兩個不關聯的類一起工作。並嘗試使用C#運用適配器模式解決方釘與圓孔問題。 ...
  • 上個月我寫的一篇文章《關於技術能力的思考和總結》引起了大家的關註,好多讀者的評論“以寫代想、以想促真、以講驗真”,大家的感受很深刻,基於上次的文章,這篇文章我其實更想跟大家聊聊一些常用的思考方法,思考問題的方式對了,往往可以幫助大家少走彎路。 ...
  • 現在的很多程式應用,基本上都是需要多端覆蓋,因此基於一個Web API的後端介面,來構建多端應用,如微信、H5、APP、WInForm、BS的Web管理端等都是常見的應用。本篇隨筆概括性的介紹基於HBuilderX+UniApp+ThorUI的手機端前端開發處理,總結一下開發工具的設置,以及常見的H... ...
一周排行
    -Advertisement-
    Play Games
  • 隨著Aspire發佈preview5的發佈,Microsoft.Extensions.ServiceDiscovery隨之更新, 服務註冊發現這個屬於老掉牙的話題解決什麼問題就不贅述了,這裡主要講講Microsoft.Extensions.ServiceDiscovery(preview5)以及如何 ...
  • 概述:通過使用`SemaphoreSlim`,可以簡單而有效地限制非同步HTTP請求的併發量,確保在任何給定時間內不超過20個網頁同時下載。`ParallelOptions`不適用於非同步操作,但可考慮使用`Parallel.ForEach`,儘管在非同步場景中謹慎使用。 對於併發非同步 I/O 操作的數量 ...
  • 1.Linux上安裝Docken 伺服器系統版本以及內核版本:cat /etc/redhat-release 查看伺服器內核版本:uname -r 安裝依賴包:yum install -y yum-utils device-mapper-persistent-data lvm2 設置阿裡雲鏡像源:y ...
  • 概述:WPF界面綁定和渲染大量數據可能導致性能問題。通過啟用UI虛擬化、非同步載入和數據分頁,可以有效提高界面響應性能。以下是簡單示例演示這些優化方法。 在WPF中,當你嘗試綁定和渲染大量的數據項時,性能問題可能出現。以下是一些可能導致性能慢的原因以及優化方法: UI 虛擬化: WPF提供了虛擬化技術 ...
  • 引言 上一章節介紹了 TDD 的三大法則,今天我們講一下在單元測試中模擬對象的使用。 Fake Fake - Fake 是一個通用術語,可用於描述 stub或 mock 對象。 它是 stub 還是 mock 取決於使用它的上下文。 也就是說,Fake 可以是 stub 或 mock Mock - ...
  • 為.net6在CentOS7上面做準備,先在vmware虛擬機安裝CentOS 7.9 新建CentOS764位的系統 因為CentOS8不更新了,所以安裝7;簡單就一筆帶過了 選擇下載好的操作系統的iso文件,下載地址https://mirrors.aliyun.com/centos/7.9.20 ...
  • 經過前面幾篇的學習,我們瞭解到指令的大概分類,如:參數載入指令,該載入指令以 Ld 開頭,將參數載入到棧中,以便於後續執行操作命令。參數存儲指令,其指令以 St 開頭,將棧中的數據,存儲到指定的變數中,以方便後續使用。創建實例指令,其指令以 New 開頭,用於在運行時動態生成並初始化對象。方法調用指... ...
  • LiteDB 是一個輕量級的嵌入式 NoSQL 資料庫,其設計理念與 MongoDB 類似,但它是完全使用 C# 開發的,因此與 C# 應用程式的集成非常順暢。與 SQLite 相比,LiteDB 提供了 NoSQL(即鍵值對)的數據存儲方式,並且是一個開源且免費的項目。它適用於桌面、移動以及 We ...
  • 1 開源解析和拆分文檔 第三方的工具去對文件解析拆分,去將我們的文件內容給提取出來,並將我們的文檔內容去拆分成一個小的chunk。常見的PDF word mark down, JSON、HTML。都可以有很好的一些模塊去把這些文件去進行一個東西去提取。 優勢 支持豐富的文檔類型 每種文檔多樣化選擇 ...
  • OOM是什麼?英文全稱為 OutOfMemoryError(記憶體溢出錯誤)。當程式發生OOM時,如何去定位導致異常的代碼還是挺麻煩的。 要檢查OOM發生的原因,首先需要瞭解各種OOM情況下會報的異常信息。這樣能縮小排查範圍,再結合異常堆棧、heapDump文件、JVM分析工具和業務代碼來判斷具體是哪 ...