Redis Plus 來了,性能炸裂!

来源:https://www.cnblogs.com/javastack/archive/2023/04/24/17349765.html
-Advertisement-
Play Games

來源:https://developer.aliyun.com/article/705239 1 什麼是KeyDB? KeyDB是Redis的高性能分支,專註於多線程,記憶體效率和高吞吐量。除了多線程之外,KeyDB還具有僅在Redis Enterprise中可用的功能,例如Active Replic ...


來源:https://developer.aliyun.com/article/705239

1 什麼是KeyDB?

KeyDB是Redis的高性能分支,專註於多線程,記憶體效率和高吞吐量。除了多線程之外,KeyDB還具有僅在Redis Enterprise中可用的功能,例如Active Replication,FLASH存儲支持以及一些根本不可用的功能,例如直接備份到AWS S3。

KeyDB與Redis協議,模塊和腳本保持完全相容性。這包括腳本和事務的原子性保證。由於KeyDB與Redis開發保持同步,因此KeyDB是Redis功能的超集,從而使KeyDB取代了現有Redis部署。

在相同的硬體上,KeyDB每秒可以執行的查詢數量是Redis的兩倍,而延遲卻降低了60%。Active-Replication簡化了熱備用故障轉移,使您可以輕鬆地在副本上分配寫操作並使用基於TCP的簡單負載平衡/故障轉移。KeyDB的高性能可讓您在更少的硬體上做更多的事情,從而降低了運營成本和複雜性。

在此處查看完整的基準測試結果和設置信息:

https://docs.keydb.dev/blog/2019/10/07/blog-post/

2 走進KeyDB

KeyDB項目是從redis fork出來的分支。眾所周知redis是一個單線程的kv記憶體存儲系統,而KeyDB在100%相容redis API的情況下將redis改造成多線程。

項目git地址:

https://github.com/JohnSully/KeyDB

網上公開的技術細節比較少,本文基本是通過閱讀源碼總結出來的,如有錯漏之處歡迎指正。

推薦一個開源免費的 Spring Boot 最全教程:

https://github.com/javastacks/spring-boot-best-practice

多線程架構

線程模型

KeyDB將redis原來的主線程拆分成了主線程和worker線程。每個worker線程都是io線程,負責監聽埠,accept請求,讀取數據和解析協議。如圖所示:

KeyDB使用了SO_REUSEPORT特性,多個線程可以綁定監聽同個埠。

每個worker線程做了cpu綁核,讀取數據也使用了SO_INCOMING_CPU特性,指定cpu接收數據。

解析協議之後每個線程都會去操作記憶體中的數據,由一把全局鎖來控制多線程訪問記憶體數據。

主線程其實也是一個worker線程,包括了worker線程的工作內容,同時也包括只有主線程才可以完成的工作內容。在worker線程數組中下標為0的就是主線程。

主線程的主要工作在實現serverCron,包括:

  • 處理統計
  • 客戶端鏈接管理
  • db數據的resize和reshard
  • 處理aof
  • replication主備同步
  • cluster模式下的任務

鏈接管理

在redis中所有鏈接管理都是在一個線程中完成的。在KeyDB的設計中,每個worker線程負責一組鏈接,所有的鏈接插入到本線程的鏈接列表中維護。鏈接的產生、工作、銷毀必須在同個線程中。每個鏈接新增一個欄位

int iel; /* the event loop index we're registered with */

用來表示鏈接屬於哪個線程接管。

KeyDB維護了三個關鍵的數據結構做鏈接管理:

  • clients_pending_write:線程專屬的鏈表,維護同步給客戶鏈接發送數據的隊列
  • clients_pending_asyncwrite:線程專屬的鏈表,維護非同步給客戶鏈接發送數據的隊列
  • clients_to_close:全局鏈表,維護需要非同步關閉的客戶鏈接

分成同步和非同步兩個隊列,是因為redis有些聯動api,比如pub/sub,pub之後需要給sub的客戶端發送消息,pub執行的線程和sub的客戶端所線上程不是同一個線程,為了處理這種情況,KeyDB將需要給非本線程的客戶端發送數據維護在非同步隊列中。

同步發送的邏輯比較簡單,都是在本線程中完成,以下圖來說明如何同步給客戶端發送數據

如上文所提到的,一個鏈接的創建、接收數據、發送數據、釋放鏈接都必須在同個線程執行。非同步發送涉及到兩個線程之間的交互。KeyDB通過管道在兩個線程中傳遞消息:

int fdCmdWrite; //寫管道
int fdCmdRead; //讀管道

本地線程需要非同步發送數據時,先檢查client是否屬於本地線程,非本地線程獲取到client專屬的線程ID,之後給專屬的線程管到發送AE_ASYNC_OP::CreateFileEvent的操作,要求添加寫socket事件。專屬線程在處理管道消息時將對應的請求添加到寫事件中,如圖所示:

redis有些關閉客戶端的請求並非完全是在鏈接所在的線程執行關閉,所以在這裡維護了一個全局的非同步關閉鏈表。

鎖機制

KeyDB實現了一套類似spinlock的鎖機制,稱之為fastlock。

fastlock的主要數據結構有:

struct ticket
{
    uint16_t m_active;  //解鎖+1
    uint16_t m_avail;  //加鎖+1
};
struct fastlock
{
    volatile struct ticket m_ticket;

    volatile int m_pidOwner; //當前解鎖的線程id
    volatile int m_depth; //當前線程重覆加鎖的次數
};

使用原子操作__atomic_load_2__atomic_fetch_add__atomic_compare_exchange來通過比較m_active=m_avail判斷是否可以獲取鎖。fastlock提供了兩種獲取鎖的方式:

  • try_lock:一次獲取失敗,直接返回
  • lock:忙等,每1024 * 1024次忙等後使用sched_yield 主動交出cpu,挪到cpu的任務末尾等待執行。

在KeyDB中將try_lock和事件結合起來,來避免忙等的情況發生。每個客戶端有一個專屬的lock,在讀取客戶端數據之前會先嘗試加鎖,如果失敗,則退出,因為數據還未讀取,所以在下個epoll_wait處理事件迴圈中可以再次處理。

Active-Replica

KeyDB實現了多活的機制,每個replica可設置成可寫非只讀,replica之間互相同步數據。主要特性有:

  • 每個replica有個uuid標誌,用來去除環形複製
  • 新增加rreplay API,將增量命令打包成rreplay命令,帶上本地的uuid
  • key,value加上時間戳版本號,作為衝突校驗,如果本地有相同的key且時間戳版本號大於同步過來的數據,新寫入失敗。採用當前時間戳向左移20位,再加上後44位自增的方式來獲取key的時間戳版本號。

參考文檔:https://docs.keydb.dev/docs/commands

近期熱文推薦:

1.1,000+ 道 Java面試題及答案整理(2022最新版)

2.勁爆!Java 協程要來了。。。

3.Spring Boot 2.x 教程,太全了!

4.別再寫滿屏的爆爆爆炸類了,試試裝飾器模式,這才是優雅的方式!!

5.《Java開發手冊(嵩山版)》最新發佈,速速下載!

覺得不錯,別忘了隨手點贊+轉發哦!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 這一年乾的很多事都是為了降低我的開源項目消息推送平臺austin使用門檻。 如果想學Java項目的,強烈推薦我的開源項目消息推送平臺Austin(8K stars) ,可以用作畢業設計,可以用作校招,可以看看生產環境是怎麼推送消息的。開源項目消息推送平臺austin倉庫地址: 消息推送平臺🔥推送下 ...
  • Codable 是 Swift 4.0 引入的一種協議,它是一個組合協議,由 Decodable 和 Encodable 兩個協議組成。它的作用是將模型對象轉換為 JSON 或者是其它的數據格式,也可以反過來將 JSON 數據轉換為模型對象。 ...
  • 1,局部變數與全局變數 1,定義 局部變數:就是在函數體內的變數,在python中冒號“:”後面的變數都是局部變數,當然局部與全局也是一個相對的概念。比如出現函數嵌套的情況。 全局變數:就是在模塊中所有函數都可以調用的變數,一般在函數體外被定義。 2,使用過程 函數內的局部變數,在函數體外是不可以使 ...
  • 〇、Maven 0.1 什麼是Maven? Apache Maven is a software project management and comprehension tool. Based on the concept of a project object model (POM), Mave ...
  • 教程簡介 GWT Highcharts是一個基於 Java 的開源庫,可在 GWT 應用程式中提供優雅且功能豐富的 Highcharts 可視化,並可與 GWT 小部件庫一起使用。 GWT Highcharts入門教程 - 從基本概念到高級概念,從簡單的步驟瞭解GWT Highcharts,其中包括 ...
  • 教程簡介 Perl入門教程 - 從基本到高級概念的簡單簡單步驟瞭解Perl,包括簡介,環境,語法,數據類型,變數,標量,數組,哈希,IF ... ELSE,迴圈,運算符,日期和時間,子程式,引用,格式,文件I / O,目錄,錯誤處理,特殊變數,編碼標準,正則表達式,發送電子郵件,套接字編程,面向對象 ...
  • 泛型 問題解決 一個計算sum的函數 func sum(slice []int) int { var res int for _, value := range slice { res += value } return res } ​ 如果需要提供對int,float64,string三種數據類型 ...
  • 簡要 pyinstaller模塊主要用於python代碼打包成exe程式直接使用,這樣在其它電腦上即使沒有python環境也是可以運行的。 用法 一.安裝 pyinstaller屬於第三方庫,因此在使用的時候需提前安裝 pip install pyinstaller 二.配置spec文件 1.配置生 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...