Netty 粘包/拆包應用案例及解決方案分析

来源:https://www.cnblogs.com/wenhongyu/archive/2018/08/21/9511887.html
-Advertisement-
Play Games

熟悉TCP變成的可以知道,無論是客戶端還是服務端,但我們讀取或者發送消息的時候,都需要考慮TCP底層粘包/拆包機制,下麵我們先看一下TCP 粘包/拆包和基礎知識,然後模擬一個沒有考慮TCP粘包/拆包導致功能異常的案例,最後,通過正確的常式來談談Netty是如何實現的。 主要內容: TCP粘包/拆包的 ...


熟悉TCP變成的可以知道,無論是客戶端還是服務端,但我們讀取或者發送消息的時候,都需要考慮TCP底層粘包/拆包機制,下麵我們先看一下TCP 粘包/拆包和基礎知識,然後模擬一個沒有考慮TCP粘包/拆包導致功能異常的案例,最後,通過正確的常式來談談Netty是如何實現的。

主要內容:

  • TCP粘包/拆包的基礎知識

  • 沒考慮TCP粘包/拆包的問題案例

  • 使用Netty解決讀半包問題

 

1、TCP粘包/拆包

    TCP是個“流“協議,所謂流,就是沒有界限的一串數據。TCP底層並不知道上層業務邏輯,它會根據TCP緩衝區的實際情況進行包的拆分,所以在業務上認為,一個完整的包可能會被拆分成多個包進行發送,也有可能把多個小的包封裝成一個大的數據包發送,這就是所謂的TCP粘包/拆包的問題。

2、TCP粘包/拆包發生的原因

    問題產生的原因有三個:如下

  • 應用程式write寫入的位元組大小大於套介面發送緩衝區大小;

  • 進行MSS大小的分段;

  • 乙太網幀的payload大於MTU進行IP分片; 

備註:mtu是網路傳輸最大報文包。mss是網路傳輸數據最大值。 

https://img3.mukewang.com/5b7ba6030001819a08230455.jpg

3、粘包問題的解決策略

   由於底層TCP無法理解上層業務數據,所以在底層是無法保證數據包不被拆分和重組的,這個問題只能通過上層的應用協議棧設計來解決,根據業界的主流協議的解決方案,可以歸納如下:

  • 消息定長,例如每個報文的大小長度200位元組,如果不夠,不空格;

  • 在包尾增加回車換行符,例如FTP協議;

  • 將消息分為消息頭和消息體,消息頭包含表示消息總長度的欄位,通常設計思路為消息頭的第一個欄位使用int32來表示消息的總長度;

  • 更複雜的設計協議;

介紹完了TCP粘包/拆包的基礎知識後,我們看一下Netty是如何解決半包問題的,是如何使用Netty的半包解碼器來解決TCP粘包/拆包問題。

4、未考慮TCP粘包/拆包問題出現的功能異常

TimeServer的改造(可以查看上一篇文章中的netty客戶端-服務端的實現):

https://img1.mukewang.com/5b7badcc0001a03413320886.jpg

每讀到一條消息後,就計數一次,然後發送應答消息給服務端。

TimeClient端的改造:

https://img2.mukewang.com/5b7bb0c20001cdb211660848.jpg

https://img2.mukewang.com/5b7bb0df0001caaf10360573.jpg

運行結果(服務端接收指令):

The time server receive order : QUERY TIME ORDER

此處省略57行。。。。。。。

QUERY TIME ORD ; the counter is :1

The time server receive order : 

此處省略43行。。。。。。。

QUERY TIME ORDER ; the counter is :2

運行結果(客戶端接收響應):

Now is : BAD ORDER

BAD ORDER

 ; the counter is : 1

原因分析:服務端運行結果表明它只接收到兩條消息,第一條包含57條“QUERY TIME ORDER”指令,第二天包含了43條指令,總數100條,我們期望的也是100條,但是計數只有兩條,所有發生TCP粘包,按照設計初衷,客戶端應該收到100響應,但實際上只收到了1條,不難理解,客戶端也發生了粘包,一條應答消息中包含兩條“BAD ORDER”指令的消息。

5、通過LineBasedFrameDecoder解決TCP粘包問題

   為瞭解決TCP粘包/拆包導致的半包讀寫問題,Netty預設提供了多種編解碼器用於處理半包,這是其他NIO框架和JDK原生的NIO API不能匹敵的。

直接上代碼

TimeServer:

https://img3.mukewang.com/5b7bb71000018a2610730414.jpg

    在原來的TimeServerHandler之前增加了兩個解碼器:LineBasedFrameDecoder、StringDecoder

 

TimeServerHandler:

https://img2.mukewang.com/5b7bbafd0001168013390526.jpg

TimeClient:

https://img3.mukewang.com/5b7bb9b90001e18310300693.jpg

TimeClientHandler:

https://img2.mukewang.com/5b7bbbb500017c0311540389.jpg

支持TCP粘包的運行結果:

服務端:

 

The time server receive order : QUERY TIME ORDER ; the counter is :1

此處省略92條。。。。。。

The time server receive order : QUERY TIME ORDER ; the counter is :100

客戶端:

 

Now is : Tue Aug 21 15:15:21 CST 2018 ; the counter is : 1

此處省略92條。。。。。。

Now is : Tue Aug 21 15:15:21 CST 2018 ; the counter is : 100

 

6、LineBasedFrameDecoder、StringDecoder原來分析

   LineBasedFrameDecoder的工作原理是它依次遍歷ByteBuf中的可讀位元組,判斷是否有“\n“或者“\r\n”,如果有,就以此位置為結束位置,從可讀索引到結束位置區間的位元組就組成了一行。它是以換行符為結束標記的解碼器,

    StringDecoder非常簡單,就是將接收到的對象轉換成字元串,然後繼續調用後面的Handler,

總結:LineBasedFrameDecoder + StringDecoder組合就是按行切換的文本解碼器,它被設計用來支持TCP的粘包、拆包。

疑問:

1、如果發送的消息不是以換行符結束的怎麼辦?

2、靠消息頭中的長度欄位來分包的怎麼辦?

這樣的話是否需要自己寫半包解碼器,答案是否定的,Netty 提供了多種支持 TCP粘包、拆包的解碼器,用來滿足需求,下麵的文章中會詳細介紹《分隔符解碼器》《定長解碼器》,因為它在項目中使用非常廣泛,所以單獨去分享這一知識點。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 不多說,直接開始吧 // ES6之前常用寫法 for(var i = 0;i<10;i++){ /閉包寫法 (function(j){ var a = document.createElement("div"); a.innerHTML = j + " "; a.addEventListener(" ...
  • IE瀏覽器對於同一個URL只返回相同結果。因為,在預設情況下,IE會緩存ajax的請求結果。對於同一個URL地址,在緩存過期之前,只有第一次請求會真正發送到服務端。大多數情況下,我們使用ajax是希望實現局部刷新的,所以這就牽扯到一個改進的問題。 如果想每次都獲取到最新數據,我們只需保證每次傳入的U ...
  • 在微信開發中,寫過的一個簡單的音樂播放組件,記錄下。 music 音樂播放組件。 屬性 代碼 properties: { // 音樂路徑 music: { type: String, value: '', observer: function (newVal) { this._initMusic(n ...
  • this其實是一個Html 元素。 $this 只是個變數名,加$是為說明其是個jquery對象。 而$(this)是個轉換,將this表示的dom對象轉為jquery對象,這樣就可以使用jquery提供的方法操作。 先來看看JQuery中的 $() 這個符號,實際上這個符號在JQuery中相當於J ...
  • 此文是我的出版書籍[《React Native 精解與實戰》](http://rn.parryqiu.com/)連載分享,此書由機械工業出版社出版,書中詳解了 React Native 框架底層原理、React Native 組件佈局、組件與 API 的介紹與代碼實戰,以及 React Native... ...
  • Element.getBoundingClientRect()返回元素的大小及相對於視窗的位置 語法: rectObject=object.getBoundingClientRect(); 返回值是一個DOMRect對象,即DOMRect={x:scrollLeft,y:scrollY,width: ...
  • 開發環境: 安裝JDK8 安裝STS http://spring.io/tools/sts/ 安裝MySql 伺服器 https://www.mysql.com/downloads/ 客戶端 Navicat Premium 12 ...
  • 一、什麼是分散式系統 分散式系統是建立在網路之上的系統。分散式系統背後是由一系列的電腦組成的,但用戶感知不到背後的邏輯,就像訪問單個電腦一樣。 特征: 最開始一臺伺服器上存儲著文件,數據,應用程式。隨著流量的增多,瓶頸出現,應用程式需要更快CPU,資料庫伺服器要更大記憶體(緩存)和硬碟,文件伺服器 ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...