Redis 集群演進探討和總結

来源:https://www.cnblogs.com/svenaugustus/archive/2020/05/22/12938653.html

Redis為什麼需要集群? 首先Redis單實例主要有單點,容量有限,流量壓力上限的問題。 Redis單點故障,可以通過主從複製 ,和自動故障轉移 哨兵機制。 但Redis單 實例提供讀寫服務,仍然有容量和壓力問題,因此需要數據分區,構建多個 實例同時提供讀寫服務(不僅限於從 節點提供讀服務)。 那 ...


Redis為什麼需要集群?

首先Redis單實例主要有單點,容量有限,流量壓力上限的問題。

Redis單點故障,可以通過主從複製replication,和自動故障轉移sentinel哨兵機制。

但Redis單Master實例提供讀寫服務,仍然有容量和壓力問題,因此需要數據分區,構建多個Master實例同時提供讀寫服務(不僅限於從replica節點提供讀服務)。

那麼就需要一定的機制保證數據分區。這樣能充分把容量分攤到多台電腦,或能充分利用多核電腦的性能。

並且數據在各個主Master節點間不能混亂,當然最好還能支持線上數據熱遷移的特性。

探討數據分區方案

file
針對數據分區,一般來說,分為兩個大類:

  • 邏輯拆分:
    邏輯上能拆分,比如 Redis 中的 M1 節點 存儲 A服務需要的業務數據,而 Redis 中的 M2 節點存儲 B服務需要的業務數據。
  • 數據分區:
    當邏輯上不能拆分,那麼只能按數據來拆分,需要保證客戶端讀和寫數據一致。
    因此需要一個高效快速的數據結構來路由對應的Master節點。
    最容易想到的就是類比 Java 中的 HashMap, 採用 哈希演算法,快速找到,快速設置。
    這裡有四種方式,分別是固定取模,隨機,哈希一致性,哈希槽。

固定取模

file
假設有三個 Master,配置IP 和權重如下:

Real Server IP weight
10.0.2.21 1
10.0.2.22 2
10.0.2.23 3

那麼會根據每一個real Server 及其權重虛擬出對應權重 weight 個的虛擬vritual server節點,映射關係會是:

Real Server IP virtual server
10.0.2.21 1
10.0.2.22 2,3
10.0.2.23 4,5,6

一個 key 存儲在那個虛擬vritual server節點,通過哈希hash演算法:

virtual_server_index = hash(key) % (total_virtual_weight)

假設某個key,它的 hash 值是 10,那麼以上: 10%6=4,將落到 10.0.2.23 這個真實的 Master上。

  • 缺點
    因為取模的模數是固定的,當新增或刪除 master節點時,所有的數據幾乎要全部洗牌,幾乎需要重新遷移數據(而且相當麻煩),無法做到線上數據熱遷移。
    意味著Redis在此種用法下,只能當緩存,不能當存儲資料庫!

隨機

file
隨機選取一個存儲和訪問。
一般結合 list,用於非順序性要求的消息隊列場景。

  • 缺點:
    使用場景比較單一。
    並且由於隨機性問題,導致持久化存在不可靠性。Redis在此種用法下,也只能當緩存,不能當存儲資料庫!

一致性哈希

一致性哈希演算法(Consistent Hashing)最早在論文《Consistent Hashing and Random Trees: Distributed Caching Protocols for Relieving Hot Spots on the World Wide Web》中被提出。
簡單來說,一致性哈希將整個哈希值空間組織成一個虛擬的圓環,如假設某哈希函數H的值空間為0-2^32-1(即哈希值是一個32位無符號整形),整個哈希空間環如下:
file

  • 1.有一個HASH環,環上每個節點都是一個自然數,從0開始順時針遞增,直到2^32-1,最後回到0

  • 2.真實節點 M1 M2 M3 通過 hash(IP 或主機名)確定在哈希環上的位置

  • 3.當客戶端請求時,首先 hash(key) 確定在哈希環上的位置,然後順時針往後找,找到的第一個真實節點,就是客戶端需要請求訪問的真實主機

  • 優點:
    哈希一致性其實是對固定取模的一種優化。
    (1)擴展性:當增加節點時,只會影響順時針的真實節點(此部分數據比較難遷移),而不是影響全部的節點。
    (2)容錯性:當節點宕機或刪除節點時,只會影響逆時針的真實節點,而不是影響全部的節點。
    (3)平衡性:當哈希演算法的節點過少時,會可能造成某些伺服器的數據存儲較多,而另外一些存儲較少,造成數據傾斜,當節點足夠多時,這種現象得以緩解。
    因此虛擬節點個數較大的時候,數據的平衡性得以保證。

  • 缺點:
    因為當增刪節點時,需要重新計算受影響部分的節點中的key全部找出來,才能遷移,這個很麻煩!!!
    Redis在此種用法下,也只能當緩存,不能當存儲資料庫!

哈希槽(PreSharding,預先分片)

這個跟哈希一致性很相似。
區別在於,它預先分配好真實節點管理的哈希槽(slot),並存儲管理起來,我們可以預先知道哪個master主機擁有哪些哈希槽(slot),這裡總數是16384。
file

127.0.0.1:7001> cluster nodes
2aaf59558f1b9f493a946a695e51711eb03d15f9 127.0.0.1:[email protected] master - 0 1590126183862 2 connected 5461-10922
6439c3e9468fd2c545a63b3b9bfe658c5fc14287 127.0.0.1:[email protected] master - 0 1590126181856 3 connected 10923-16383
340d985880c23de9816226dff5fd903322e44313 127.0.0.1:[email protected] myself,master - 0 1590126182000 1 connected 0-5460

我們可以清晰看到Redis Cluster中的每一個master節點管理的哈希槽。
比如 127.0.0.1:7001 擁有哈希槽 0-5460, 127.0.0.1:7002 擁有哈希槽 5461-10922, 127.0.0.1:7003 擁有哈希槽 10923-16383。
file

➜  redis-cli -p 7001         
127.0.0.1:7001> set a 1
(error) MOVED 15495 127.0.0.1:7003

➜  redis-cli -p 7001 -c
127.0.0.1:7001> set a 1
-> Redirected to slot [15495] located at 127.0.0.1:7003
OK

我們看到的是master節點在 Redis Cluster中的實現時,都存有所有的路由信息。
當客戶端的key 經過hash運算,發送slot 槽位不在本節點的時候。
(1)如果是非集群方式連接,則直接報告錯誤給client,告訴它應該訪問集群中那個IP的master主機。
(2)如果是集群方式連接,則將客戶端重定向到正確的節點上。
註意這裡並不是127.0.0.1:7001 幫client去連接127.0.0.1:7003獲取數據的,而是將客戶端請求重定向了。

  • 優點:
    繼承並增強一致性哈希的容錯性,擴展性,以及平衡性。
    Redis在此種用法下,可以當緩存,也能當存儲資料庫!

  • 這裡Redis給出更詳細的說明:https://redis.io/topics/partitioning

具體方案

以下列表為按照出現的先後順序排列:

方案 描述 數據分區支持策略 分散式 線上數據熱遷移
twemproxy twitter 開源的redis代理中間件,不修改redis源碼 https://github.com/twitter/twemproxy 存在modula(固定取模)、 random (隨機)、ketama(哈希一致性)三種可選的配置 本身是單點的,可以通過keepalived等保證高可用 不支持,無法平滑地擴容/縮容
Redis Cluster 官方提供的集群方案 採用預先分片(PreSharding),即哈希槽方式,存儲在每一個master節點上 沒有proxy代理層,客戶端可以連接集群中的任意master節點 提供客戶端命令redis-cli --cluster reshard ip port按哈希槽遷移指定節點的數據
codis 豌豆莢開源的redis代理中間件,修改了redis源碼 https://github.com/CodisLabs/codis 採用預先分片(PreSharding),即哈希槽方式,存儲在ZooKeeper上 集群部署,部署相對複雜 支持數據熱遷移

@SvenAugustus(https://www.flysium.xyz/)
更多請關註微信公眾號【編程不離宗】,專註於分享伺服器開發與編程相關的技術乾貨:


您的分享是我們最大的動力!

更多相關文章
  • STM32 HAL庫 +freeRTOS+Keil 移植 官方freeRTOS移植教程很多,本文不做贅述。本文基於Keil 5提供的freeRTOS庫,進行移植。 Keil 版本:Keil MDK uVision5 首先準備好一個可以用的HAL庫工程,為了方便調試,選擇了原子哥的開發板上提供跑馬燈工 ...
  • 一、用戶操作1.增加用戶 useradd [username] 2.設置用戶密碼 passwd [username] 3.刪除用戶 userdel [username] 4.查看所有用戶 cat /etc/passwd 5.查看當前活躍用戶 w 6.查看簡明用戶列表cat /etc/passwd|g ...
  • 功能描述:切換目錄 語法:cd [目標目錄] “[ ]”為可選項。 說明:cd命令可以讓用戶在不同的目錄間來回切換,不過該用戶需要有足夠的許可權才能進入目標目錄。 示例1:從當前目錄切換至/tmp目錄 cd :不帶任何參數時表示切換回用戶的家目錄。 cd \~ :切換回自己的家目錄。註意:在bash中 ...
  • [toc] route命令 功能說明:顯示或管理路由表,路由表是在內核中的,route命令會立刻修改內核中的路由表,立即生效,系統重啟後失效。 用法 route [ n] route add [ net| host] target [netmask Nm] [gw Gw] [[dev] If] ro ...
  • 下載Redis安裝包並解壓 在 /opt/soft 內下載 "redis 5.0.5" 解壓完之後, /opt/module/ ⽬錄中會出現⼀個 的⽬錄 編譯並安裝 將Redis 安裝為系統服務並後臺啟動 設置允許遠程連接與訪問密碼 檢驗安裝結果 ...
  • 最近談到Redis就會聽到哨兵模式,工作期間同事也分享過關於哨兵模式的知識,但由於工作忙(給自己找個藉口)沒有沒認真看,現在惡補下,老樣子還是分上篇應用,下篇看實現過程,下麵我們來看下哨兵到底是啥? 哨兵模式(Sentinel)是Redis的高可用解決方案。由一個或多個Sentinel實例組成的Se ...
  • 檢測是否存在MARIADB 如果系統之前⾃帶 ,可以先卸載之。 ⾸先查詢已安裝的 Mariadb 安裝包: 卸載mariadb 刪除配置文件,刪除數據目錄 下載MYSQL安裝包並解壓 在 /opt/soft 內下載 "MySQL 5.7" 解壓完之後, /opt/module/ ⽬錄中會出現⼀個 的 ...
  • INSERT INTO test_table_public(class, name, geography) SELECT class, name, geography FROM test_table WHERE id >= 137181 AND id <= 137214; SELECT class, ...
一周排行
  • 一:背景 1. 講故事 曾今在項目中發現有同事自定義結構體的時候,居然沒有重寫Equals方法,比如下麵這段代碼: static void Main(string[] args) { var list = Enumerable.Range(0, 1000).Select(m => new Point ...
  • 最近一個朋友有個關於素數的小東西要寫一下,素數是什麼呢?除了1和他本身不能被其他數整除,那麼這個數就是素數,1除外哦。我們知道概念那就很簡單了,直接代碼擼起。 ...
  • 前言 在開發編程中,我們經常會遇到功能非常相似的功能模塊,只是他們的處理的數據不一樣,所以我們會分別採用多個方法來處理不同的數據類型。但是這個時候,我們就會想一個問題,有沒有辦法實現利用同一個方法來傳遞不同種類型的參數呢? 這個時候,泛型也就因運而生,專門來解決這個問題的。 泛型是在C 2.0就推出 ...
  • 本文章主要用於介紹在Asp.Net Mvc(C#)中使用Fleck製作一個Html5的即時聊天室,含有完整代碼和演示Demo。 ...
  • 出庫單的功能。能學習了出庫單管理之後,WMS的 主體功能算是完成了。當然一個成熟的WMS還包括了盤點,報表,策略規則,移庫功能及與其他系統(ERP、TMS等)的介面,實現無縫集成,打破信息孤島,讓數據實時、準確和同步。 ...
  • Data StructureThere're two types of variables in C#, reference type and value type.Enum:enum Color{Red=0,Green=1}//equals to enum Color{Red,//start fr... ...
  • 0. 前言 該項目使用Maven進行管理和構建,所以需要預先配置好Maven。嗯,在這個系列里就不做過多的介紹了。 1. 創建項目 先創建一個pom.xml 文件,添加以下內容: <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http: ...
  • API 概述 API(Application Programming Interface),應用程式編程介面。 Java API是一本程式員的 字典 ,是JDK中提供給我們使用的類的說明文檔。 這些類將底層的代碼實現封裝了起來,我們不需要關心這些類是如何實現的,只需要學習這些類如何使用即可。 所以我 ...
  • 女程式員是這麼徵婚的: SELECT * FROM 男人們 WHERE 未婚=true and 同性戀=false and 有房=true and 有車=true and 條件 in (帥氣,紳士,大度,氣質,智慧,溫柔,體貼,會浪漫,活潑,可愛,最好還能帶孩子) and 年齡 between(24 ...
  • 有很多剛學習軟體測試的小伙伴,都會在網路上找尋各種學習資料,去提升自己的專業技能水平。因此,我決定定期分享我整理收集的一些軟體測試的測試工具下載、面試寶典、視頻教學合集。都整理好了,有需要的可以關註我(獲取方式在文末) 軟體測試的學習,不止是基礎理論,還需要學習測試工具的用法,如介面工具Postma ...