聊聊秒殺系統的設計(三)

来源:https://www.cnblogs.com/hhhnicvscs/archive/2022/09/19/16707557.html
-Advertisement-
Play Games

前言 秒殺請求在高度集中在某一個時間點。這樣一來,就會導致一 個特別高的流量峰值,它對資源的消耗是瞬時的 。能夠搶到商品的人數是有限的,也就是說10人和1000人發 起請求的結果都是一樣的。也就是說真正開始下單時,秒殺請求並不是越多越好。 一、秒殺中的削峰 猶豫伺服器的處理資源是恆定的,用或者不用它 ...


前言

秒殺請求在高度集中在某一個時間點。這樣一來,就會導致一 個特別高的流量峰值,它對資源的消耗是瞬時的 。能夠搶到商品的人數是有限的,也就是說10人和1000人發 起請求的結果都是一樣的。也就是說真正開始下單時,秒殺請求並不是越多越好。


一、秒殺中的削峰

由於伺服器的處理資源是恆定的,用或者不用它的處理能力都是一樣的,出現峰值的話,很容易導致忙到處理不過來,閑的時候卻又沒有什麼要處理。為了保證服務質量,很多處理資源只能按照忙時預估,而這會導致資源浪費。 削峰可以讓服務端處理變得更加平穩,還可以節省伺服器的資源成本。針對秒殺這一場景,削峰從本質上來說就是更多地延緩用戶請求的發出,以便減少和過濾掉一些無效請求。

常見秒殺流量削峰的一些操作思路:消息隊列、答題器、數據過濾。

1.消息隊列

其中最容易想到的解決方案就是用消息隊列來緩衝瞬時流量,把同步的直接調用轉換成非同步的間接推送,通過隊列在一端承接瞬時的流量洪峰,在另一端平滑地將消息推送出去,在這裡,消息隊列就像“水庫"一樣,攔蓄上游的洪水,削減進入下游的洪峰流量。

但是,如果流量峰值持續時間達到了消息隊列的處理上限,消息隊列同樣也會被壓垮,這樣雖然保護了下游的系統,但是和直接把請求丟棄也沒多大的區別。就像遇到洪水爆發時,即使是有水庫恐怕也無濟於事。在這種情況下,我們要把“一步的操作”變成“兩步的操作”,其中增加的操作用來起到緩衝的作用,例如利用線程池加鎖等待、採用先進先出、先進後出等常用的記憶體排隊演算法。

2.答題器

添加答題器第一個目的是防止部分買家使用秒殺器在參加秒殺時作弊,第二個目的就是延緩請求,起到削峰的作用。把請求的時間從瞬時延長到了幾秒,這樣會大大減輕對伺服器的壓力。而且後續請求到達伺服器時已經沒有庫存了,真正的併發處理就很有限了。

答題器生成的題目不需要很複雜,為了防止被破解可以添加圖片噪點。同時在CDN上緩存圖片,避免成為秒殺活動中的短板,影響用戶體驗。

3.數據過濾

這裡提到的數據過濾有點像某些企業在招聘時,把簡歷隨機抽出一部分扔掉一樣,只不過抽取的過程可以設置一定的規則,過濾掉那些無效的請求。在不同的處理層根據不同的規則有效的過濾,例如對寫數據進行基於時間的合理分片,過濾掉過期的失效請求;對寫數據進行強一致性校驗,只保留最後有效的數據。

這麼做的目的是在讀系統中,儘量減少由於一致性校驗帶來的系統瓶頸,但是儘量將不影響性能的檢查條件提前,如用戶是否具有秒殺資格、商品狀態是否正常、用戶答題是否正確、秒殺是否已經結束、是否非法請求等;在寫數據系統中,主要對寫的數據做一致性檢查,最後在資料庫層保證數據的最終準確性。

二、秒殺中的服務性能優化

服務端性能, 一般用QPS來衡量, 還有一個和QPS息息相關的是響應時間, 它可以理解為伺服器處理響應的耗時。

正常情況下響應時間越短, 一秒鐘處理的請求數(QPS) 自然也就會越多, 這在單線程處理的情況下看起來是線性的關係,即我們只要把每個請求的響應時間降到最低,那麼性能就會最高。

這個兩個因素到底會造成什麼樣的影響?首先, 我們先來看看響應時間和QPS的關係,對於大部分的Web系統而言響應時間一般都是由CPU執行時間和線程等待時間組成,也許你會說為什麼不去減少這種等待時間,其實減少線程等待時間對提升性能的影響沒有我們想象得那麼大, 這點在很多代理伺服器上可以做驗證,如果代理伺服器本身沒有CPU消耗, 我們在每次給代理伺服器代理的請求加個延時, 即增加響應時間,這對代理伺服器本身的吞吐量並沒有多大的影響,因為代理伺服器本身的資源並沒有被消耗。

真正對性能有影響的是CPU的執行時間, 因為CPU的執行真正消耗了伺服器的資源, 我們應該致力於減少CPU的執行時間。

對於Java系統可優化的地方很多,除了常見的代碼優化外,以下的內容值得註意。

Java和通用的Web伺服器相比,在處理大併發的HTTP請求時要弱一點, 所以一般我們都會對大流量的Web系統做靜態化改造,讓大部分請求和數據直接在Nginx伺服器或者Web代理伺服器上直接返回 , 而Java層只需處理少量數據的動態請求。

針對這些請求, 我們可以使用以下手段進行優化:

1.直接使用Servlet處理請求, 避免使用傳統的MVC框架, 這樣可以繞過一大堆複雜且用處不大的處理邏輯, 直接輸出流數據。使用resp.getOutputStream)而不是resp.get Writer函數, 可以省掉一些不變字元數據的編碼, 從而提升性能。

2.數據輸出時推薦使用JSON而不是模板引擎來輸出頁面。

3.集中式緩存為了保證命中率一般都會採用一致性Hash, 所以同一個key會落到同一臺機器上。那麼,該如何徹底解決單點的瓶頸呢? 答案是採用應用層的Local Cache。你需要劃分成動態數據和靜態數據。

像商品中的標題和描述這些本身不變的數據,會在秒殺開始之前全量推送到緩存直到到秒殺結束。

像庫存這類動態數據的方式緩存一定時間,失效後再去緩存拉取最新的。你可能還會有疑問:像庫存這種頻繁更新的數據,一旦數據不一致,會不會導致超賣? 這就要用到前面介紹的讀數據的分層原則了,讀的場景可以允許一定的臟數據,因為這裡的誤判只會導致少量原本無庫存的下單請求被誤認為有庫存,可以等到真正寫數據時再保證最終的一致性。 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • ⚠️1.1萬長文⚠️ React源碼並非洪水猛獸,知道方法,就可以很輕易地馴服它(=^▽^=)。文章基於最新的React源碼進行調試及閱讀,將以通俗地方式解讀React ...
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 一、axios簡介 axios是什麼? Axios 是一個基於 promise 的 HTTP 庫,可以用在瀏覽器和 node.js 中。 axios有什麼特性?(不得不說面試被問到幾次) 從瀏覽器中創建 XMLHttpRequests 從 ...
  • 前端學科面試寶典 蔡威 [電子郵件地址] HTML5、CSS3...................................................................................................................... ...
  • 筆者最近在看 你不知道的JavaScript上捲,裡面關於 this 的講解個人覺得非常精彩。JavaScript 中的 this 算是一個核心的概念,有一些同學會對其有點模糊和小恐懼,究其原因,現在對 this 討論的文章很多,讓我們覺得 this 無規律可尋,就像一個幽靈一樣 如果你還沒弄懂 t ...
  • 在面向對象的程式設計中,模塊之間交互採用介面編程,通常情況下調用方不需要知道被調用方的內部實現細節,因為一旦涉及到了具體實現,如果需要換一種實現就需要修改代碼,這違反了程式設計的"開閉原則"。所以我們一般有兩種選擇:一種是使用API(Application Programming Interface ...
  • 我的設計模式之旅。本節學習了適配器模式。從程式調用第三方庫時遇到的問題著手,思考如何讓兩個不關聯的類一起工作。並嘗試使用C#運用適配器模式解決方釘與圓孔問題。 ...
  • 上個月我寫的一篇文章《關於技術能力的思考和總結》引起了大家的關註,好多讀者的評論“以寫代想、以想促真、以講驗真”,大家的感受很深刻,基於上次的文章,這篇文章我其實更想跟大家聊聊一些常用的思考方法,思考問題的方式對了,往往可以幫助大家少走彎路。 ...
  • 現在的很多程式應用,基本上都是需要多端覆蓋,因此基於一個Web API的後端介面,來構建多端應用,如微信、H5、APP、WInForm、BS的Web管理端等都是常見的應用。本篇隨筆概括性的介紹基於HBuilderX+UniApp+ThorUI的手機端前端開發處理,總結一下開發工具的設置,以及常見的H... ...
一周排行
    -Advertisement-
    Play Games
  • 一:背景 1.講故事 在分析的眾多dump中,經常會遇到各種奇葩的問題,僅通過dump這種快照形式還是有很多問題搞不定,而通過 perfview 這種粒度又太粗,很難找到問題之所在,真的很頭疼,比如本篇的 短命線程 問題,參考圖如下: 我們在 t2 時刻抓取的dump對查看 短命線程 毫無幫助,我根 ...
  • 在日常後端Api開發中,我們跟前端的溝通中,通常需要協商好入參的數據類型,和參數是通過什麼方式存在於請求中的,是表單(form)、請求體(body)、地址欄參數(query)、還是說通過請求頭(header)。 當協商好後,我們的介面又需要怎麼去接收這些數據呢?很多小伙伴可能上手就是直接寫一個實體, ...
  • 許多情況下我們需要用到攝像頭獲取圖像,進而處理圖像,這篇博文介紹利用pyqt5、OpenCV實現用電腦上連接的攝像頭拍照並保存照片。為了使用和後續開發方便,這裡利用pyqt5設計了個相機界面,後面將介紹如何實現,要點包括界面設計、邏輯實現及完整代碼。 ...
  • 思路分析 註冊頁面需要對用戶提交的數據進行校驗,並且需要對用戶輸入錯誤的地方進行提示! 所有我們需要使用forms組件搭建註冊頁面! 平時我們書寫form是組件的時候是在views.py裡面書寫的, 但是為了接耦合,我們需要將forms組件都單獨寫在一個地方,需要用的時候導入就行! 例如,在項目文件 ...
  • 思路分析 登錄頁面,我們還是採用ajax的方式提交用戶數據 唯一需要學習的是如何製作圖片驗證碼! 具體的登錄頁面效果圖如下: 如何製作圖片驗證碼 推導步驟1:在img標簽的src屬性里放上驗證碼的請求路徑 補充1.img的src屬性: 1.圖片路徑 2.url 3.圖片的二進位數據 補充2:字體樣式 ...
  • 哈嘍,兄弟們! 最近有許多小伙伴都在吐槽打工好難。 每天都是執行許多重覆的任務 例如閱讀新聞、發郵件、查看天氣、打開書簽、清理文件夾等等, 使用自動化腳本,就無需手動一次又一次地完成這些任務, 非常方便啊有木有?! 而在某種程度上,Python 就是自動化的代名詞。 今天就來和大家一起學習一下, 用 ...
  • 作者:IT王小二 博客:https://itwxe.com 前面小二介紹過使用Typora+PicGo+LskyPro打造舒適寫作環境,那時候需要使用水印功能,但是小二在升級LskyPro2.x版本發現有很多不如人意的東西,遂棄用LskyPro使用MinIO結合代碼實現自己需要的圖床功能,也適合以後 ...
  • OpenAI Gym是一款用於研發和比較強化學習演算法的工具包,本文主要介紹Gym模擬環境的功能和工具包的使用方法,並詳細介紹其中的經典控制問題中的倒立擺(CartPole-v0/1)問題。最後針對倒立擺問題如何建立控制模型並採用爬山演算法優化進行了介紹,並給出了相應的完整python代碼示例和解釋。要... ...
  • python爬蟲瀏覽器偽裝 #導入urllib.request模塊 import urllib.request #設置請求頭 headers=("User-Agent","Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, l ...
  • 前端代碼搭建 主要利用的是bootstrap3中js插件里的模態框版塊 <li><a href="" data-toggle="modal" data-target=".bs-example-modal-lg">修改密碼</a></li> <div class="modal fade bs-exam ...