從構建分散式秒殺系統聊聊線程池

来源:https://www.cnblogs.com/smallSevens/archive/2018/05/22/9066133.html
-Advertisement-
Play Games

前言 從0到1構建分散式秒殺系統案例的代碼已經全部上傳至碼雲,文章也被分發到各個平臺。其中也收到了不少小伙伴喜歡和反饋,有網友如是說: 說實話,能用上的不多,中小企業都不可能用到,大型企業也不是一個人就能搞起的,大部分人一輩子都用不上,等有這個需要再搞吧。 我的觀點是贊同但不支持,基本上任何事物都是 ...


前言

從0到1構建分散式秒殺系統案例的代碼已經全部上傳至碼雲,文章也被分發到各個平臺。其中也收到了不少小伙伴喜歡和反饋,有網友如是說:

說實話,能用上的不多,中小企業都不可能用到,大型企業也不是一個人就能搞起的,大部分人一輩子都用不上,等有這個需要再搞吧。

我的觀點是贊同但不支持,基本上任何事物都是呈金字塔分佈,互聯網也不例外,也就是說大部分可能都是普通人,接觸不到所謂大廠的應用場景。但是,書到用時方恨少,機會總是留給有準備的人的,除非有錢難買我樂意,只能說大千世界,每個人都有自己的生活方式,尊重並活著。

進程和線程

前面都是扯淡,也不是什麼鋪墊,在聊線程池之前我們最好簡單瞭解下什麼是進程,什麼是線程,進程和線程到底有什麼區別?

這裡我們,搬運下某百科的釋義:

進程是電腦中的程式關於某數據集合上的一次運行活動,是系統進行資源分配和調度的基本單位,是操作系統結構的基礎。在早期面向進程設計的電腦結構中,進程是程式的基本執行實體;在當代面向線程設計的電腦結構中,進程是線程的容器。程式是指令、數據及其組織形式的描述,進程是程式的實體。

當然,知乎上也有不少網友的回答,每個人都有自己不同的理解方式。這裡我們拿Tomcat容器做例子:你可以這麼理解,運行中的Tomcat容器就是一個進程,而每個用戶的操作(查詢、上傳)可以當做一個或者多個線程。

線程池

秒殺活動中,瞬時併發是非常大的,如果每一個請求都開啟一個新線程,系統就要不斷的進行線程的創建和銷毀,有時花在創建和銷毀線程上的時間會比線程真正執行的時間還長。並且由於硬體條件限制,線程數量又不能無限創建。

那麼線程池到底解決了那些問題:

  • 降低資源消耗:通過重用已經創建的線程來降低線程創建和銷毀的消耗
  • 提高響應速度:任務到達時不需要等待線程創建就可以立即執行
  • 提高線程的可管理性:線程池可以統一管理、分配、調優和監控

源自網路

執行流程
  • 調用ThreadPoolExecutor的execute提交線程,首先檢查CorePool,如果CorePool內的線程小於CorePoolSize,新創建線程執行任務。

  • 如果當前CorePool內的線程大於等於CorePoolSize,那麼將線程加入到BlockingQueue。

  • 如果不能加入BlockingQueue,在小於MaxPoolSize的情況下創建線程執行任務。

  • 如果線程數大於等於MaxPoolSize,那麼執行拒絕策略。

模擬測試

為了方便測試,我們在Control中定義了線程池,來模擬用戶秒殺動作:

定義初始線程數:

private static int corePoolSize = Runtime.getRuntime().availableProcessors();
  • IO密集型任務 = 一般為2*CPU核心數(常出現於線程中:資料庫數據交互、文件上傳下載、網路數據傳輸等等)
  • CPU密集型任務 = 一般為CPU核心數+1(常出現於線程中:複雜演算法)
  • 混合型任務 = 視機器配置和複雜度自測而定

定義Executor:

private static ThreadPoolExecutor executor  = new ThreadPoolExecutor(corePoolSize, corePoolSize+1, 10l, TimeUnit.SECONDS,new LinkedBlockingQueue<Runnable>(1000));
  • corePoolSize用於指定核心線程數量
  • maximumPoolSize指定最大線程數
  • keepAliveTime和TimeUnit指定線程空閑後的最大存活時間
  • workQueue則是線程池的緩衝隊列,還未執行的線程會在隊列中等待,監控隊列長度,確保隊列有界;不當的線程池大小會使得處理速度變慢,穩定性下降,並且導致記憶體泄露。如果配置的線程過少,則隊列會持續變大,消耗過多記憶體;而過多的線程又會 由於頻繁的上下文切換導致整個系統的速度變緩——殊途而同歸。隊列的長度至關重要,它必須得是有界的,這樣如果線程池不堪重負了它可以暫時拒絕掉新的請求。

  • ExecutorService 預設的實現是一個無界的LinkedBlockingQueue。

Tomcat線程池

以上只是為了測試方便,模擬出的數據。真實的生產環境,我們要接入Nginx和Tomcat來處理用戶的請求。而Tomcat作為一名容器也是有自己的一套連接池的,作為開發人員你並不需要自己去實現。

Tomcat預設使用自帶的連接池,這裡我們也可以自定義實現,打開/conf/server.xml文件,在Connector之前配置一個線程池:

<Executor name="tomcatThreadPool"   
        namePrefix="tomcatThreadPool-"   
        maxThreads="1000"   
        maxIdleTime="300000"  
        minSpareThreads="200"/>  
  • name:共用線程池的名字。這是Connector為了共用線程池要引用的名字,該名字必須唯一。預設值:None;

  • namePrefix:在JVM上,每個運行線程都可以有一個name 字元串。這一屬性為線程池中每個線程的name字元串設置了一個首碼,Tomcat將把線程號追加到這一首碼的後面。預設值:tomcat-exec-;

  • maxThreads:該線程池可以容納的最大線程數。預設值:200;

  • maxIdleTime:在Tomcat關閉一個空閑線程之前,允許空閑線程持續的時間(以毫秒為單位)。只有當前活躍的線程數大於minSpareThread的值,才會關閉空閑線程。預設值:60000(一分鐘)。

  • minSpareThreads:Tomcat應該始終打開的最小不活躍線程數。預設值:25。

配置Connector:

<Connector executor="tomcatThreadPool"
           port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8443"
           minProcessors="5"
           maxProcessors="75"
           acceptCount="1000"/>
  • executor:表示使用該參數值對應的線程池;

  • minProcessors:伺服器啟動時創建的處理請求的線程數;

  • maxProcessors:最大可以創建的處理請求的線程數;

  • acceptCount:指定當所有可以使用的處理請求的線程數都被使用時,可以放到處理隊列中的請求數,超過這個數的請求將不予處理。

思考

  • 為什麼線程數最好不要太大於CPU核數?
  • 為什麼Tomcat中預設線程數遠大於CPU核數?
  • Nginx為什麼要進入線程池,基於什麼場景考慮?

代碼案例:從0到1構建分散式秒殺系統


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 深入css佈局(2) — 定位與浮動 在css知識體系中,除了css選擇器,樣式屬性等基礎知識外,css佈局相關的知識才是css比較核心和重要的點。今天我們來深入學習一下css佈局相關的知識。 上篇文章我們講完了css佈局中盒模型和元素分類的相關知識,同時介紹了box-sizing和行框。這篇我們繼 ...
  • 一 JS中有哪些數據類型? -- 共 6 種數據類型,其中 5 種基本數據類型Undefined,Null,Boolean,Number和 String,1 種複雜數據類型Object。因為ECMAScript不支持創建任何自定義的類型,所以最終所有的類型都是其中 6 種數據類型之一。(ES6中新增 ...
  • <el-table :data="tableData" stripe border style="width:100%" highlight-current-row> <el-table-column type="selection" width="55"> </el-table-column> < ...
  • 經實驗,$.serializeArray()獲取不到disabled的值,如果想要讓input元素變為不可用,可以把input設為readonly,而不是disabled; 還有一種情況獲取不到值,當頁面中有兩個一樣name值的標簽的時候,即使其中一個name值的input的樣式為 display: ...
  • 前段時間有朋友私信我 Vue + TypeScript 的問題,然後就打算寫一篇 Vue + TypeScript 封裝組件的文章 正好公司項目中需要封裝一個表頭查詢組件,就拿出來分享一下~ 組件的整體思路是通過一個 config 數組生成列表的頭部表單: PS:配合《Vue 爬坑之路(九)—— 用 ...
  • 相關文章: "ELK 架構之 Elasticsearch 和 Kibana 安裝配置" "ELK 架構之 Logstash 和 Filebeat 安裝配置" ELK 使用步驟:Spring Boot 日誌輸出到指定目錄,Filebeat 進行採集,Logstash 進行過濾,Elasticsearc ...
  • 一、什麼是享元模式 說到享元模式,第一個想到的應該就是池技術了,String常量池、資料庫連接池、緩衝池等等都是享元模式的應用,所以說享元模式是池技術的重要實現方式。 比如我們每次創建字元串對象時,都需要創建一個新的字元串對象的話,記憶體開銷會很大,所以如果第一次創建了字元串對象“adam“,下次再創 ...
  • 前言 在給定上下文的軟體體繫結構中,為瞭解決某些經常出現的問題而形成的通用且可重用的解決方案稱之為架構模式,而常見的體系架構模式主要有以下十種 分層模式 客戶端 伺服器模式 主從設備模式 管道 過濾器模式 代理模式 點對點模式 事件匯流排模式 模型 視圖 控制器模式 黑板模式 解釋器模式 而下麵我將詳 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...