Redis 生產架構選型對比,一文整治選擇困難症

来源:https://www.cnblogs.com/88223100/archive/2022/09/18/Comparison-of-Redis-production-architecture-selection.html
-Advertisement-
Play Games

在寫開源項目的時候,想到了要支持多種redis部署方式,於是對於這塊的生產環境的架構選型展開調研。 推薦使用更新的引擎版本以支持更多的特性, Redis 6.0新特性說明 模塊系統新增多個API。 支持SSL/TLS加密。 支持新的Redis協議:RESP3。 服務端支持多模式的客... ...


 

前言

 

在寫開源項目的時候,想到了要支持多種redis部署方式,於是對於這塊的生產環境的架構選型展開調研。

 

一、引擎版本

 

推薦使用更新的引擎版本以支持更多的特性,

 

Redis 6.0新特性說明

 

  • 模塊系統新增多個API。

  • 支持SSL/TLS加密。

  • 支持新的Redis協議:RESP3。

  • 服務端支持多模式的客戶端緩存。

  • 支持多線程IO。

  • 副本中支持無盤複製(diskless replication)。

  • Redis-benchmark新增了Redis集群模式。

  • 支持重寫Systemd。

  • 支持Disque模塊。

 

Redis 5.0新特性說明

 

  • 雲資料庫Redis 5.0版本大幅度優化內核,運行更加穩定,同時新增Stream、賬號管理、審計日誌等多種特性,滿足您更多場景下的使用需求。

  • 新的數據類型:流數據(Stream)。詳細說明請參見Redis Streams。

  • 新增賬號管理功能。

  • 新增日誌管理功能,支持審計日誌、運行日誌和慢日誌,您可以通過日誌管理查詢讀寫操作、敏感操作(如KEYS、FLUSHALL)和管理類命令的使用記錄以及慢日誌。

  • 新增基於快照的緩存分析功能。

  • 新的定時器(Timers)、集群( Cluster)和字典(Dictionary)模塊的API。

  • RDB中增加LFU和LRU信息。

  • 集群管理器從Ruby (redis-trib.rb)移植到了redis-cli中的C語言代碼。

  • 新增有序集合(Sorted Set)命令ZPOPMIN、ZPOPMAX、BZPOPMIN和BZPOPMAX。

  • 升級Active Defragmentation至v2版本。

  • 增強HyperLogLog的實現。

  • 優化記憶體統計報告。

  • 為許多有子命令的命令增加了HELP子命令。

  • 提高了客戶端頻繁連接和斷開連接時的性能表現。

  • 升級Jemalloc至5.1版本。

  • 新增命令CLIENT ID和CLIENT UNBLOCK。

  • 新增了為藝術而生的LOLWUT命令。

  • 棄用slave術語(需要API向後相容的情況例外)。

  • 對網路層進行了多處優化。

  • 進行了一些Lua相關的改進。

  • 新增動態HZ(Dynamic HZ)以平衡空閑CPU使用率和響應性。

  • 對Redis核心代碼進行了重構併在許多方面進行了改進。

 

二、架構

 

您需要根據業務需求選擇:

 

  • 集群架構可輕鬆突破Redis自身單線程瓶頸,滿足大容量、高性能的業務需求。

  • 主從架構,提供高性能的緩存服務和數據高可靠。

  • 讀寫分離架構提供高可用、高性能、高靈活的讀寫分離服務,解決熱點數據集中及高併發讀取的業務需求,最大化地節約用戶運維成本。

 

1、主從架構-雙副本

 

採用主從(master-replica)模式搭建。主節點提供日常服務訪問,備節點提供HA高可用,當主節點發生故障,系統會自動在30秒內切換至備節點,保證業務平穩運行。

 

1)可靠性

 

  • 服務可靠採用雙機主從(master-replica)架構,主從節點位於不同物理機。主節點對外提供訪問,用戶可通過Redis命令行和通用客戶端進行數據的增刪改查操作。當主節點出現故障,HA系統會自動進行主從切換,保證業務平穩運行。

  • 數據可靠預設開啟數據持久化功能,數據全部落盤。支持數據備份功能,用戶可以針對備份集回滾實例或者克隆實例,有效地解決數據誤操作等問題。

 

2)使用場景

 

  • Redis作為持久化數據存儲使用的業務標準版提供持久化機制及備份恢復機制,極大地保證數據可靠性。

 

  • 單個Redis性能壓力可控的業務由於Redis原生採用單線程機制,性能在10萬QPS以下的業務建議使用。如果需要更高的性能要求,請選用集群版本。

 

  • Redis命令相對簡單,排序、計算類命令較少的業務由於Redis的單線程機制,CPU會成為主要瓶頸。如排序、計算類較多的業務建議選用集群版配置。

 

2、主從架構-單副本

 

可以在沒有數據可靠性要求的純緩存場景充分發揮性能優勢。

 

1)使用場景

 

①純緩存類業務場景

 

單副本版本只有一個資料庫節點,節點出現故障時,系統會重新拉起一個Redis進程(沒有數據),當節點故障業務自動切換完成後,應用程式需要將數據重新預熱,以免對後端資料庫產生訪問壓力衝擊。單副本架構不能提供數據可靠性,如果發生節點故障,您需要重新對業務進行預熱,因此,在對數據可靠性要求較高的敏感性業務中,建議選用雙副本架構。

 

②單個Redis性能壓力可控

 

由於Redis原生採用單線程機制,CPU為單核能力,性能在8萬QPS的業務建議使用。如果需要更高的性能要求,請選用集群版配置。

 

③Redis命令相對簡單,排序、計算類命令較少

 

由於Redis的單線程機制,CPU為主要瓶頸。如排序、計算類較多的業務建議選用集群版配置。

 

3、集群版-雙副本

 

可輕鬆突破Redis自身單線程瓶頸,滿足大容量、高性能的業務需求。雙副本集群版實例採用集群架構,每個分片伺服器採用主從(master-replica)雙副本模式。集群版支持代理和直連兩種連接模式,您可以根據本章節的說明,選擇適合業務需求的連接模式。

 

1)代理模式

 

集群架構的本地盤實例預設採用代理(proxy)模式,支持通過一個統一的連接地址(功能變數名稱)訪問Redis集群,客戶端的請求通過代理伺服器轉發到各數據分片,代理伺服器、數據分片和配置伺服器均不提供單獨的連接地址,降低了應用開發難度和代碼複雜度。代理模式的服務架構圖和組件說明如下。

 

 

 

 

2)直連模式

 

因所有請求都要通過代理伺服器轉發,代理模式在降低業務開發難度的同時也會小幅度影響Redis服務的響應速度。如果業務對響應速度的要求非常高,您可以使用直連模式,繞過代理伺服器直接連接後端數據分片,從而降低網路開銷和服務響應時間。直連模式的服務架構和說明如下。

 

 

前提條件:使用Jedis、PhpRedis等支持Redis Cluster的客戶端。

 

  • 使用不支持Redis Cluster的客戶端,可能因客戶端無法重定向請求到正確的分片而獲取不到需要的數據。

 

  • Jedis對於Redis Cluster的支持是基於JedisCluster這個類,詳細說明請參見Jedis文檔。

 

  • 您可以在Redis官網的客戶端列表裡查找更多支持Redis Cluster的客戶端。

 

使用自定義連接池的示例代碼 `import redis.clients.jedis.*;

 

import java.util.HashSet;

import java.util.Set;

public class main {

private static final int DEFAULT_TIMEOUT = 2000;

private static final int DEFAULT_REDIRECTIONS = 5;

private static final JedisPoolConfig DEFAULT_CONFIG = new JedisPoolConfig();

 

public static void main(String args[]){
    JedisPoolConfig config = new JedisPoolConfig();
    // 最大空閑連接數, 根據業務需要設置,不能超過實例規格規定的最大的連接數
    config.setMaxIdle(200);
    // 最大連接數, 根據業務需要設置,不能超過實例規格規定的最大的連接數
    config.setMaxTotal(300);
    config.setTestOnBorrow(false);
    config.setTestOnReturn(false);
    // 開通直連訪問時申請到的直連地址
    String host = "r-bp1xxxxxxxxxxxx.redis.rds.aliyuncs.com"; 
    int port = 6379;
    // 實例的密碼
    String password = "xxxxx";

    Set<HostAndPort> jedisClusterNode = new HashSet<HostAndPort>();
    jedisClusterNode.add(new HostAndPort(host, port));
    JedisCluster jc = new JedisCluster(jedisClusterNode, DEFAULT_TIMEOUT, DEFAULT_TIMEOUT,
            DEFAULT_REDIRECTIONS,password, "clientName", config);
}
}`

4、集群版-單副本

 

 

 

 

 5、讀寫分離版

 

針對讀多寫少的業務場景,提供高可用、高性能、靈活的讀寫分離服務,滿足熱點數據集中及高併發讀取的業務需求,最大化地節約運維成本。讀寫分離版主要由主備節點、只讀節點、Proxy(代理)節點和高可用系統組成。

 

 

 

 

1)特點

 

①高可用

 

  • 通過自研的高可用系統自動監控所有數據節點的健康狀態,為整個實例的可用性保駕護航。主節點不可用時自動選擇新的主節點並重新搭建複製拓撲。某個只讀節點異常時,高可用系統能夠自動探知並重新啟動新節點完成數據同步,下線異常節點。

 

  • Proxy節點實時感知每個只讀實例的服務狀態。在某個只讀實例異常期間,Proxy會自動降低該節點的服務權重,發現只讀節點連續失敗超過一定次數以後,會停止異常節點的服務權利,並具備繼續監控後續重新啟動節點服務的能力。

 

②高性能

 

讀寫分離版採取鏈式複製架構,可以通過擴展只讀實例個數使整體實例性能呈線性增長,同時基於源碼層面對Redis複製流程的定製優化,可以最大程度地提升線性複製的系統穩定性,充分利用每一個只讀節點的物理資源。

 

2)使用場景

 

讀取請求QPS(Queries Per Second)壓力較大

 

標準版Redis無法支撐較大的QPS,如果業務類型是讀多寫少類型,需要採用多個只讀節點的部署方式來突破Redis單線程的性能瓶頸。Redis集群版提供1個、3個、5個只讀節點的配置,相比標準版可以將QPS提升近5倍。

 

對Redis協議相容性要求較高的業務 讀寫分離版完全相容Redis協議命令,可將自建Redis資料庫遷移至讀寫分離版,同時支持從Redis標準版(雙副本)一鍵平滑升級至讀寫分離版。

 

3)建議與使用須知

 

當一個只讀節點發生故障時,請求會轉發到其他節點;如果所有隻讀節點均不可用,請求會全部轉發到主節點。只讀節點異常可能導致主節點負載提高、響應時間變長,因此在讀負載高的業務場景建議使用多個只讀節點。

 

某些場景會觸發只讀節點的全量同步,例如在主節點觸發高可用切換後。全量同步期間只讀節點不提供服務並返回-LOADING Redis is loading the dataset in memory\r\n信息。

 

 

作者丨小熱愛

本文來自博客園,作者:古道輕風,轉載請註明原文鏈接:https://www.cnblogs.com/88223100/p/Comparison-of-Redis-production-architecture-selection.html


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 成本核算程式執行某個存儲過程一直阻塞,排查發現類似以下語句阻塞: select tbl1.product_id,sum(isnull(tbl1.qty,0) * isnull(tbl2.unit_other_cost,0)) as other_cost from tbl1.p_id=@pId and ...
  • MySQL的通用日誌: 用來記錄對資料庫的通用操作,包括錯誤的sql語句等信息。 通用日誌可以保存在:file(預設值)或 table(mysql.general_log表) mysql通用日誌的設置: general_log=ON|OFF 是否啟用通用日誌 general_log_file=HOS ...
  • 1 - 編程語言 1.1 編程 編程: 就是讓電腦為解決某個問題而使用某種程式設計語言編寫程式代碼,並最終得到結果的過程。 電腦程式: 就是電腦所執行的一系列的指令集合,而程式全部都是用我們所掌握的語言來編寫的,所以人們要控制電腦一定要通過電腦語言向電腦發出命令。 1.2 電腦語言 計 ...
  • 移動web開發之rem佈局 rem基礎 rem單位 rem (root em)是一個相對單位,類似於em,em是父元素字體大小。 不同的是rem的基準是相對於html元素的字體大小。 比如,根元素(html)設置font-size=12px; 非根元素設置width:2rem; 則換成px表示就是2 ...
  • 這個系列的目的是通過使用 JS 實現“乞丐版”的 React,讓讀者瞭解 React 的基本工作原理,體會 React 帶來的構建應用的優勢 1 HTML 構建靜態頁面 使用 HTML 和 CSS,我們很容易可以構建出上圖中的頁面 <!DOCTYPE html> <html lang="en"> < ...
  • 原型(prototype)是函數特有的屬性。只要創建了一個函數,這個函數就會自動創建一個prototype屬性(顯式原型),並指向該函數的原型對象。原型對象上都有一個constructor屬性,指向prototype屬性所在的函數(即函數本身)。而對於每一個構造函數創建出的實例對象,內部都會有一個[... ...
  • 移動端中的元素內容超出時,對容器設置overflow-x: auto就可以通過手勢水平移動。但是 PC 端只能通過滑鼠滾輪上下滑動,而不能水平移動。 只需要給元素添加一個監聽滑鼠滾輪事件,上下滑動時修改其 scrollLeft 屬性值就可以實現。直接貼上代碼: <div class="horizon ...
  • 我的設計模式之旅,本節學習原型模式。從複製原有對象出現的兩大問題思考原型模式存在的必要性。探討原型模式的實現方法。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...