引言 好久沒有寫博客了,近期準備把 源碼啃一遍。在這之前本想直接看源碼,但是看到後面發現其實效率不高, 有些概念還是有必要回頭再細啃的,特別是其線程模型以及 的概念。 當然在開始之前還是有務必要對 要有清晰準確的認識。 傳送門 "" 事件迴圈機制(EventLoop) Netty線程模型中一個非常重 ...
引言
好久沒有寫博客了,近期準備把Netty
源碼啃一遍。在這之前本想直接看源碼,但是看到後面發現其實效率不高,
有些概念還是有必要回頭再細啃的,特別是其線程模型以及EventLoop
的概念。
當然在開始之前還是有務必要對IO模型
要有清晰準確的認識。 傳送門
事件迴圈機制(EventLoop)
Netty線程模型中一個非常重要的概念: 事件迴圈機制(EventLoop)
這個概念在JS
上體現的也非常淋漓盡致,下麵在開始介紹netty的線程模型之前,允許我簡單的介紹下事件迴圈機
制在JS
中的體現
JS
的語言性質: 單線程非阻塞,單線程意味著,js代碼在執行的任何時候,都只有一個主線程來處理所有的任務>。非阻塞則意味著,在進行非同步IO任務時不會阻塞主線程,主線程會掛起這個任務,等待非同步任務完成再執行對應>的回調。
那麼JS是如何實現單線程非阻塞的呢?JS
引擎遇到一個非同步事件後並不會一直等待其返回結果,而是會將此事件>掛起(例如交給瀏覽器去執行請求),主線程會繼續執行方法棧中的其他任務。之後當非同步任務返回結果後,(可>能是瀏覽器?)會將回調函數加入到事件隊列(Task Queue
)中,那麼什麼時候會從事件隊列中取出回調函數執行>呢?當前執行棧中的所有任務都執行完畢,主線程處於閑置狀態時會去查找事件隊列是否有任務待執行,如果有則>將回調函數加入到主線程的方法執行棧中執行,如此反覆,我們就把這個迴圈過程稱為事件迴圈機制(EventLoop
)。
不知道介紹了JS的件迴圈機制,大家有沒有對Event Loop
有了一個初步的認識,下麵我將會著重介紹我們主角Netty的線程模型及其與Event Loop
的聯繫。
Netty線程模型
Netty的線程模型基於Reactor
,Reactor
的核心在於事件分發,它有三種經典的線程模型(單線程模型,多線程>模型,主從多線程模型),下麵我們會結合Netty
的EventLoop
機制一一介紹
Reactor單線程模型
單線程模型全局只有一個線程在工作,也就意味著請求的接收,分發,IO讀取寫入等操作都在一個線程中完成,該>模型算得上是最經典的線程模型了,例如redis也是採用的此種單線程模型了。
可以看到上圖中,我們把一個Reactor線程
可以認為是一個EventLoop IO
線程,一個事件迴圈機制。
由於其線程中的IO讀寫都是基於NIO,理論上所有的IO讀寫操作都不會阻塞EventLoop
線程。所以即使是該單線程>模型,也是足以應付絕大多數的場景。
那麼為什麼又會延伸出Reactor多線程模型
呢?
當應用併發量非常大時,例如一個Reactor NIO 線程
需要同時處理成百上千的連接時,雖然IO讀寫是非阻塞的,>但是消息的編碼解碼都是需要同步阻塞的,這就導致NIO線程處理速度變慢,最終導致消息積壓,出現性能瓶頸。
基於以上原因也就演進出了第二種模型Reactor多線程模型
Reactor多線程模型
Reactor多線程模型
與Reactor單線程模型
最大的區別就是,有一組Reactor NIO線程
(也就是一組 EventLoop
)來處理IO操作
通過上圖,可以比較清晰的看到,IO的讀寫操作都由一個Reactor NIO線程池
(對應到EventLoop
也就是EventLoopGroup
)來完成的,而請求的監聽和Accept
則是由另一個單獨的Reactor線程
來完成。
註意Reactor NIO
線程池中的每一個線程都是處理N條鏈路,但是一個鏈路只能有一個線程來處理
多線程的Reactor模型
可以滿足絕大部分的應用場景,通常情況下,我們使用Netty使用這種線程模型就OK(創建>兩個NioEventLoopGroup,bossGroup大小為1,workGroup大小為CPU*2)。但是有可能會存在某些極少數的情況,一
個Reactor線程
處理請求的Accept
可能會產生性能瓶頸,例如上百萬的併發連接請求。這時候我們可能就需要採
用第三種模型Reactor主從多線程模型
Reactor主從多線程模型
Reactor主從多線程模型
和Reactor多線程模型
的區別在於原本是一個Reactor線程
處理請求的Accept,變成了
一組Reactor線程
。
對於Reactor主從多線程模型
,其實大多數情況下我們並不需要。即使我們給BossGroup指定了多個線程,最終也>只會選擇其中的一個作為Accepor的NIO線程,除非在服務端綁定了多個埠的情況下才會啟用BossGroup的多個線
程。
尾言
把Netty
的線程模型以及EventLoop
理解清楚,個人覺得最好的方法還是順著Netty
的源碼一步一步看,看多了
也就理解了這幾種線程模型分別對應了哪幾種情況,後面的文章我應該會根據源碼來進一步理解netty