通過多線程處理提高Redis性能

来源:https://www.cnblogs.com/Javame/archive/2018/11/27/10024315.html
-Advertisement-
Play Games

Redis通常被稱為單進程單線程模型。 這不是真的! Redis還運行多個後端線程來執行後端清理工作,例如清理臟數據和關閉文件描述符。在Redis中,主線程負責主要任務,包括但不限於:接收來自客戶端的連接,處理連接讀/寫事件,解析請求,處理命令,處理定時器事件和同步數據。只有一個CPU核心運行單個進 ...


Redis通常被稱為單進程單線程模型。

這不是真的!

Redis還運行多個後端線程來執行後端清理工作,例如清理臟數據和關閉文件描述符。在Redis中,主線程負責主要任務,包括但不限於:接收來自客戶端的連接,處理連接讀/寫事件,解析請求,處理命令,處理定時器事件和同步數據。只有一個CPU核心運行單個進程和單個線程。

對於小數據包,Redis伺服器可以處理80,000到100,000 QPS。更大的QPS超出了Redis伺服器的處理能力。常見的解決方案是在分散式架構中對數據進行分區並採用多個伺服器。

然而,該解決方案也具有許多缺點。例如,要管理的Redis伺服器太多; 某些適用於單個Redis伺服器的命令不適用於數據分區; 數據分區無法解決熱點讀/寫問題; 數據偏斜,重新分配和放大/縮小變得更加複雜。由於單進程和單線程的限制,我們希望可以重構多線程以充分利用SMP多核架構的優勢,從而提高單個Redis伺服器的吞吐量。

要使Redis成為多線程,最簡單的思考方式是每個線程都執行I / O和命令處理。但是,由於Redis處理的數據結構很複雜,多線程需要使用鎖來確保線程安全。鎖定粒度的不正確處理可能會降低性能。

我們建議增加I / O線程的數量,以使獨立的I / O線程能夠讀取/寫入連接,解析命令和回覆數據包中的數據,並且仍讓單個線程處理命令並執行計時器事件。這樣,可以增加單個Redis伺服器的吞吐量。

單進程和單線程模型

好處

  1. 由於單進程和單線程模型的限制,耗時的操作(例如dict rehash和過期的密鑰刪除)被分解為多個步驟併在Redis實現中逐個執行。這防止了操作長時間執行,因此避免了操作對系統的長時間阻塞。單進程和單線程代碼易於編譯,這減少了由多進程和多線程引起的上下文切換和鎖定占用。

缺點

  1. 只能使用一個CPU內核,無法利用多核優勢。

  2. 對於繁重的I / O應用程式,網路I / O操作會消耗大量CPU容量。使用Redis作為緩存的應用程式通常是繁重的I / O應用程式。這些應用程式基本上具有高QPS,使用相對簡單的命令(例如get,set和incr),但是對RT敏感。它們通常具有高帶寬使用率,甚至可能達到數百兆比特。由於10 GB和25 GB網路適配器的普及,網路帶寬不再是瓶頸。因此,我們需要考慮的是如何利用多核的優勢和網路適配器的性能。

多線程模型與實現

線程模型

有三種線程類型,即:

  1. 主線程

  2. I / O線程

  3. 工人線程

    1. 主線程:接收連接,創建客戶端,並轉發到I / O線程的連接。

    2. I / O線程:處理連接讀/寫事件,解析命令,將完整解析的命令轉發到工作線程進行處理,發送響應數據包並刪除連接。

    3. 工作線程:處理命令,生成客戶端響應數據包,並執行計時器事件。

    4. 主線程,I / O線程和工作線程分別由事件驅動。

    5. 線程通過無鎖隊列交換數據,並通過隧道發送通知。

    多線程模型的好處

    提高讀/寫性能

    壓力測試結果表明,在小數據包場景中,讀/寫性能可提高約三倍。

  4. 提高主/從同步速度

    當主設備將同步數據發送到從設備時,數據將在I / O線程中發送。從主站讀取數據時,從站從工作線程讀取完整數據,從I / O線程讀取增量數據。這可以有效地提高同步速度。

    後續任務

    第一項任務是增加I / O線程數並優化I / O讀/寫功能。接下來,我們可以分解工作線程,以便每個線程完成I / O讀取,以及工作線程的工作。

    設置I / O線程數

    1. 測試結果表明I / O線程的數量不應超過6.否則,工作線程將成為簡單操作的瓶頸。

    2. 在啟動進程時,必須設置I / O線程的數量。進程運行時,無法修改I / O線程數。根據當前的連接分配策略,修改I / O線程的數量涉及重新分配連接,這非常複雜。

    註意事項

    1. 隨著10 GB和25 GB網路適配器的普及,必須仔細考慮如何充分利用硬體性能。我們可以使用技術,例如用於networkI / O的多線程和內核繞過用戶模式協議棧。

    2. I / O線程可用於實現無阻塞數據遷移。I / O線程對數據進程進行編碼或轉發命令,而目標節點對數據進行解碼或執行命令。

    ————————————————————

    推薦閱讀:

    老王講架構:負載均衡

    支付寶系統架構內部剖析

    大數據Spark與Storm技術選型

    【贊】用Python實現Zabbix-API 監控

    程式員怎麼留住健康?

    大數據智慧平臺技術方案

    大數據聚合平臺解決方案


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • vim:多行註釋 vim中多行註釋和多行刪除命令,這些命令也是經常用到的一些小技巧,可以大大提高工作效率。 多行註釋: 1. 首先按esc進入命令行模式下,按下Ctrl + v,進入列(也叫區塊)模式; 2. 在行首使用上下鍵選擇需要註釋的多行; 3. 按下鍵盤(大寫)“I”鍵,進入插入模式; 4. ...
  • 一、編寫Shell腳本crontab.sh 二、crontab -e 輸入以下語句,然後:wq 保存退出 ...
  • sort 以行為單位,對文本文件進行排,並輸出排序結果。預設情況下,以每一行為一個單位,從首字元開始按照ASCII碼向後逐個比較。 此命令的適用範圍:RedHat、RHEL、Ubuntu、CentOS、SUSE、openSUSE、Fedora。 1、語法 sort [選項] file sort [O ...
  • 2018\11\26 下載安裝不多說,官網免費版即可,附上鏈接:https://www.netsarang.com/products/xsh_overview.html 打開後新建連接,輸入主機ip即可。 接下來輸入所需的用戶名以及密碼即可;(記得勾選記住用戶名和密碼) 用戶名和密碼正確後即可進入控 ...
  • chmod命令用於改變linux系統文件或目錄的訪問許可權。用它控制文件或目錄的訪問許可權。該命令有兩種用法。一種是包含字母和操作符表達式的文字設定法;另一種是包含數字的數字設定法。 Linux系統中的每個文件和目錄都有訪問許可許可權,用它來確定誰可以通過何種方式對文件和目錄進行訪問和操作。 文件或目錄的 ...
  • 搭建linux系統的java環境本人目前所知有兩種方式: 第一種是從oracle官網下載linux系統的jdk版本; 第二種是使用yum命令的方式下載安裝,咱們今天講的是第一種方式。 一、工具準備: 1、首先準備一個linux系統的伺服器或者虛擬機(下麵提供一個簡化版的虛擬機下載地址): 虛擬機下載 ...
  • 轉自:https://www.cnblogs.com/yangjig/p/6014198.html 在命令狀態下對當前行用== (連按=兩次), 或對多行用n==(n是自然數)表示自動縮進從當前行起的下麵n行。你可以試試把代碼縮進任意打亂再用n==排版,相當於一般IDE里的code format。使 ...
  • 一.前言 上一篇文章Redis 之複製-初入江湖中,講了關於Redis複製配置,如:如何建立配置、如何斷開複製、關於鏈接的安全性等等,那麼本篇文章將深入的去說一下關於Redis複製原理,如下: 複製過程 數據同步 全量複製 部分複製 心跳 非同步複製 二.複製過程 在從節點執行slaveof命令後,復 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...