Redis高可用詳解:持久化技術及方案選擇 (推薦)--轉載自編程迷思博客www.cnblogs.com/kismetv/p/8654978.html

来源:https://www.cnblogs.com/gjc592/archive/2018/07/31/9394070.html
-Advertisement-
Play Games

一、Redis高可用概述 在介紹Redis高可用之前,先說明一下在Redis的語境中高可用的含義。 我們知道,在web伺服器中,高可用是指伺服器可以正常訪問的時間,衡量的標準是在多長時間內可以提供正常服務(99.9%、99.99%、99.999% 等等)。但是在Redis語境中,高可用的含義似乎要寬 ...


一、Redis高可用概述

在介紹Redis高可用之前,先說明一下在Redis的語境中高可用的含義。

我們知道,在web伺服器中,高可用是指伺服器可以正常訪問的時間,衡量的標準是在多長時間內可以提供正常服務(99.9%、99.99%、99.999% 等等)。但是在Redis語境中,高可用的含義似乎要寬泛一些,除了保證提供正常服務(如主從分離、快速容災技術),還需要考慮數據容量的擴展、數據安全不會丟失等。

在Redis中,實現高可用的技術主要包括持久化、複製、哨兵和集群,下麵分別說明它們的作用,以及解決了什麼樣的問題。

  1. 持久化:持久化是最簡單的高可用方法(有時甚至不被歸為高可用的手段),主要作用是數據備份,即將數據存儲在硬碟,保證數據不會因進程退出而丟失。
  2. 複製:複製是高可用Redis的基礎,哨兵和集群都是在複製基礎上實現高可用的。複製主要實現了數據的多機備份,以及對於讀操作的負載均衡和簡單的故障恢復。缺陷:故障恢復無法自動化;寫操作無法負載均衡;存儲能力受到單機的限制。
  3. 哨兵:在複製的基礎上,哨兵實現了自動化的故障恢復。缺陷:寫操作無法負載均衡;存儲能力受到單機的限制。
  4. 集群:通過集群,Redis解決了寫操作無法負載均衡,以及存儲能力受到單機限制的問題,實現了較為完善的高可用方案。

二、Redis持久化概述

持久化的功能:Redis是記憶體資料庫,數據都是存儲在記憶體中,為了避免進程退出導致數據的永久丟失,需要定期將Redis中的數據以某種形式(數據或命令)從記憶體保存到硬碟;當下次Redis重啟時,利用持久化文件實現數據恢復。除此之外,為了進行災難備份,可以將持久化文件拷貝到一個遠程位置。

Redis持久化分為RDB持久化和AOF持久化:前者將當前數據保存到硬碟,後者則是將每次執行的寫命令保存到硬碟(類似於MySQL的binlog);由於AOF持久化的實時性更好,即當進程意外退出時丟失的數據更少,因此AOF是目前主流的持久化方式,不過RDB持久化仍然有其用武之地。

下麵依次介紹RDB持久化和AOF持久化;由於Redis各個版本之間存在差異,如無特殊說明,以Redis3.0為準。

三、RDB持久化

RDB持久化是將當前進程中的數據生成快照保存到硬碟(因此也稱作快照持久化),保存的文件尾碼是rdb;當Redis重新啟動時,可以讀取快照文件恢複數據。

1. 觸發條件

RDB持久化的觸發分為手動觸發和自動觸發兩種。

1) 手動觸發

save命令和bgsave命令都可以生成RDB文件。

save命令會阻塞Redis伺服器進程,直到RDB文件創建完畢為止,在Redis伺服器阻塞期間,伺服器不能處理任何命令請求。

而bgsave命令會創建一個子進程,由子進程來負責創建RDB文件,父進程(即Redis主進程)則繼續處理請求。

此時伺服器執行日誌如下:

bgsave命令執行過程中,只有fork子進程時會阻塞伺服器,而對於save命令,整個過程都會阻塞伺服器,因此save已基本被廢棄,線上環境要杜絕save的使用;後文中也將只介紹bgsave命令。此外,在自動觸發RDB持久化時,Redis也會選擇bgsave而不是save來進行持久化;下麵介紹自動觸發RDB持久化的條件。

2) 自動觸發

save m n

自動觸發最常見的情況是在配置文件中通過save m n,指定當m秒內發生n次變化時,會觸發bgsave。

例如,查看redis的預設配置文件(Linux下為redis根目錄下的redis.conf),可以看到如下配置信息:

其中save 900 1的含義是:當時間到900秒時,如果redis數據發生了至少1次變化,則執行bgsave;save 300 10和save 60 10000同理。當三個save條件滿足任意一個時,都會引起bgsave的調用。

save m n的實現原理

Redis的save m n,是通過serverCron函數、dirty計數器、和lastsave時間戳來實現的。

serverCron是Redis伺服器的周期性操作函數,預設每隔100ms執行一次;該函數對伺服器的狀態進行維護,其中一項工作就是檢查 save m n 配置的條件是否滿足,如果滿足就執行bgsave。

dirty計數器是Redis伺服器維持的一個狀態,記錄了上一次執行bgsave/save命令後,伺服器狀態進行了多少次修改(包括增刪改);而當save/bgsave執行完成後,會將dirty重新置為0。

例如,如果Redis執行了set mykey helloworld,則dirty值會+1;如果執行了sadd myset v1 v2 v3,則dirty值會+3;註意dirty記錄的是伺服器進行了多少次修改,而不是客戶端執行了多少修改數據的命令。

lastsave時間戳也是Redis伺服器維持的一個狀態,記錄的是上一次成功執行save/bgsave的時間。

save m n的原理如下:每隔100ms,執行serverCron函數;在serverCron函數中,遍歷save m n配置的保存條件,只要有一個條件滿足,就進行bgsave。對於每一個save m n條件,只有下麵兩條同時滿足時才算滿足:

(1)當前時間-lastsave > m

(2)dirty >= n

save m n 執行日誌

下圖是save m n觸發bgsave執行時,伺服器列印日誌的情況:

其他自動觸發機制

除了save m n 以外,還有一些其他情況會觸發bgsave:

  • 在主從複製場景下,如果從節點執行全量複製操作,則主節點會執行bgsave命令,並將rdb文件發送給從節點
  • 執行shutdown命令時,自動執行rdb持久化,如下圖所示:

2. 執行流程

前面介紹了觸發bgsave的條件,下麵將說明bgsave命令的執行流程,如下圖所示(圖片來源:https://blog.csdn.net/a1007720052/article/details/79126253):

圖片中的5個步驟所進行的操作如下:

1)  Redis父進程首先判斷:當前是否在執行save,或bgsave/bgrewriteaof(後面會詳細介紹該命令)的子進程,如果在執行則bgsave命令直接返回。bgsave/bgrewriteaof 的子進程不能同時執行,主要是基於性能方面的考慮:兩個併發的子進程同時執行大量的磁碟寫操作,可能引起嚴重的性能問題。

2)  父進程執行fork操作創建子進程,這個過程中父進程是阻塞的,Redis不能執行來自客戶端的任何命令

3)  父進程fork後,bgsave命令返回”Background saving started”信息並不再阻塞父進程,並可以響應其他命令

4)  子進程創建RDB文件,根據父進程記憶體快照生成臨時快照文件,完成後對原有文件進行原子替換

5)  子進程發送信號給父進程表示完成,父進程更新統計信息

3. RDB文件

RDB文件是經過壓縮的二進位文件,下麵介紹關於RDB文件的一些細節。

存儲路徑

RDB文件的存儲路徑既可以在啟動前配置,也可以通過命令動態設定。

配置:dir配置指定目錄,dbfilename指定文件名。預設是Redis根目錄下的dump.rdb文件。

動態設定:Redis啟動後也可以動態修改RDB存儲路徑,在磁碟損害或空間不足時非常有用;執行命令為config set dir {newdir}和config set dbfilename {newFileName}。如下所示(Windows環境):

RDB文件格式

RDB文件格式如下圖所示(圖片來源:《Redis設計與實現》):

其中各個欄位的含義說明如下:

1)  REDIS:常量,保存著”REDIS”5個字元。

2)  db_version:RDB文件的版本號,註意不是Redis的版本號。

3)  SELECTDB 0 pairs:表示一個完整的資料庫(0號資料庫),同理SELECTDB 3 pairs表示完整的3號資料庫;只有當資料庫中有鍵值對時,RDB文件中才會有該資料庫的信息(上圖所示的Redis中只有0號和3號資料庫有鍵值對);如果Redis中所有的資料庫都沒有鍵值對,則這一部分直接省略。其中:SELECTDB是一個常量,代表後面跟著的是資料庫號碼;0和3是資料庫號碼;pairs則存儲了具體的鍵值對信息,包括key、value值,及其數據類型、內部編碼、過期時間、壓縮信息等等。

4)  EOF:常量,標誌RDB文件正文內容結束。

5)  check_sum:前面所有內容的校驗和;Redis在載入RBD文件時,會計算前面的校驗和並與check_sum值比較,判斷文件是否損壞。

壓縮

Redis預設採用LZF演算法對RDB文件進行壓縮。雖然壓縮耗時,但是可以大大減小RDB文件的體積,因此壓縮預設開啟;可以通過命令關閉:

需要註意的是,RDB文件的壓縮並不是針對整個文件進行的,而是對資料庫中的字元串進行的,且只有在字元串達到一定長度(20位元組)時才會進行。

4. 啟動時載入

RDB文件的載入工作是在伺服器啟動時自動執行的,並沒有專門的命令。但是由於AOF的優先順序更高,因此當AOF開啟時,Redis會優先載入AOF文件來恢複數據;只有當AOF關閉時,才會在Redis伺服器啟動時檢測RDB文件,並自動載入。伺服器載入RDB文件期間處於阻塞狀態,直到載入完成為止。

Redis啟動日誌中可以看到自動載入的執行:

Redis載入RDB文件時,會對RDB文件進行校驗,如果文件損壞,則日誌中會列印錯誤,Redis啟動失敗。

5. RDB常用配置總結

下麵是RDB常用的配置項,以及預設值;前面介紹過的這裡不再詳細介紹。

  • save m n:bgsave自動觸發的條件;如果沒有save m n配置,相當於自動的RDB持久化關閉,不過此時仍可以通過其他方式觸發
  • stop-writes-on-bgsave-error yes:當bgsave出現錯誤時,Redis是否停止執行寫命令;設置為yes,則當硬碟出現問題時,可以及時發現,避免數據的大量丟失;設置為no,則Redis無視bgsave的錯誤繼續執行寫命令,當對Redis伺服器的系統(尤其是硬碟)使用了監控時,該選項考慮設置為no
  • rdbcompression yes:是否開啟RDB文件壓縮
  • rdbchecksum yes:是否開啟RDB文件的校驗,在寫入文件和讀取文件時都起作用;關閉checksum在寫入文件和啟動文件時大約能帶來10%的性能提升,但是數據損壞時無法發現
  • dbfilename dump.rdb:RDB文件名
  • dir ./:RDB文件和AOF文件所在目錄

四、AOF持久化

RDB持久化是將進程數據寫入文件,而AOF持久化(即Append Only File持久化),則是將Redis執行的每次寫命令記錄到單獨的日誌文件中(有點像MySQL的binlog);當Redis重啟時再次執行AOF文件中的命令來恢複數據。

與RDB相比,AOF的實時性更好,因此已成為主流的持久化方案。

1. 開啟AOF

Redis伺服器預設開啟RDB,關閉AOF;要開啟AOF,需要在配置文件中配置:

appendonly yes

2. 執行流程

由於需要記錄Redis的每條寫命令,因此AOF不需要觸發,下麵介紹AOF的執行流程。

AOF的執行流程包括:

  • 命令追加(append):將Redis的寫命令追加到緩衝區aof_buf;
  • 文件寫入(write)和文件同步(sync):根據不同的同步策略將aof_buf中的內容同步到硬碟;
  • 文件重寫(rewrite):定期重寫AOF文件,達到壓縮的目的。

1) 命令追加(append)

Redis先將寫命令追加到緩衝區,而不是直接寫入文件,主要是為了避免每次有寫命令都直接寫入硬碟,導致硬碟IO成為Redis負載的瓶頸。

命令追加的格式是Redis命令請求的協議格式,它是一種純文本格式,具有相容性好、可讀性強、容易處理、操作簡單避免二次開銷等優點;具體格式略。在AOF文件中,除了用於指定資料庫的select命令(如select 0 為選中0號資料庫)是由Redis添加的,其他都是客戶端發送來的寫命令。

2) 文件寫入(write)和文件同步(sync)

Redis提供了多種AOF緩存區的同步文件策略,策略涉及到操作系統的write函數和fsync函數,說明如下:

為了提高文件寫入效率,在現代操作系統中,當用戶調用write函數將數據寫入文件時,操作系統通常會將數據暫存到一個記憶體緩衝區里,當緩衝區被填滿或超過了指定時限後,才真正將緩衝區的數據寫入到硬碟里。這樣的操作雖然提高了效率,但也帶來了安全問題:如果電腦停機,記憶體緩衝區中的數據會丟失;因此系統同時提供了fsync、fdatasync等同步函數,可以強制操作系統立刻將緩衝區中的數據寫入到硬碟里,從而確保數據的安全性。

 

AOF緩存區的同步文件策略由參數appendfsync控制,各個值的含義如下:

  • always:命令寫入aof_buf後立即調用系統fsync操作同步到AOF文件,fsync完成後線程返回。這種情況下,每次有寫命令都要同步到AOF文件,硬碟IO成為性能瓶頸,Redis只能支持大約幾百TPS寫入,嚴重降低了Redis的性能;即便是使用固態硬碟(SSD),每秒大約也只能處理幾萬個命令,而且會大大降低SSD的壽命。
  • no:命令寫入aof_buf後調用系統write操作,不對AOF文件做fsync同步;同步由操作系統負責,通常同步周期為30秒。這種情況下,文件同步的時間不可控,且緩衝區中堆積的數據會很多,數據安全性無法保證。
  • everysec:命令寫入aof_buf後調用系統write操作,write完成後線程返回;fsync同步文件操作由專門的線程每秒調用一次。everysec是前述兩種策略的折中,是性能和數據安全性的平衡,因此是Redis的預設配置,也是我們推薦的配置。

3) 文件重寫(rewrite)

隨著時間流逝,Redis伺服器執行的寫命令越來越多,AOF文件也會越來越大;過大的AOF文件不僅會影響伺服器的正常運行,也會導致數據恢復需要的時間過長。

文件重寫是指定期重寫AOF文件,減小AOF文件的體積。需要註意的是,AOF重寫是把Redis進程內的數據轉化為寫命令,同步到新的AOF文件;不會對舊的AOF文件進行任何讀取、寫入操作!

關於文件重寫需要註意的另一點是:對於AOF持久化來說,文件重寫雖然是強烈推薦的,但並不是必須的;即使沒有文件重寫,數據也可以被持久化併在Redis啟動的時候導入;因此在一些實現中,會關閉自動的文件重寫,然後通過定時任務在每天的某一時刻定時執行。

 

文件重寫之所以能夠壓縮AOF文件,原因在於:

  • 過期的數據不再寫入文件
  • 無效的命令不再寫入文件:如有些數據被重覆設值(set mykey v1, set mykey v2)、有些數據被刪除了(sadd myset v1, del myset)等等
  • 多條命令可以合併為一個:如sadd myset v1, sadd myset v2, sadd myset v3可以合併為sadd myset v1 v2 v3。不過為了防止單條命令過大造成客戶端緩衝區溢出,對於list、set、hash、zset類型的key,並不一定只使用一條命令;而是以某個常量為界將命令拆分為多條。這個常量在redis.h/REDIS_AOF_REWRITE_ITEMS_PER_CMD中定義,不可更改,3.0版本中值是64。

通過上述內容可以看出,由於重寫後AOF執行的命令減少了,文件重寫既可以減少文件占用的空間,也可以加快恢復速度。

文件重寫的觸發

文件重寫的觸發,分為手動觸發和自動觸發:

手動觸發:直接調用bgrewriteaof命令,該命令的執行與bgsave有些類似:都是fork子進程進行具體的工作,且都只有在fork時阻塞。

此時伺服器執行日誌如下:

 

自動觸發:根據auto-aof-rewrite-min-size和auto-aof-rewrite-percentage參數,以及aof_current_size和aof_base_size狀態確定觸發時機。

  • auto-aof-rewrite-min-size:執行AOF重寫時,文件的最小體積,預設值為64MB。
  • auto-aof-rewrite-percentage:執行AOF重寫時,當前AOF大小(即aof_current_size)和上一次重寫時AOF大小(aof_base_size)的比值。

其中,參數可以通過config get命令查看:

狀態可以通過info persistence查看:

只有當auto-aof-rewrite-min-size和auto-aof-rewrite-percentage兩個參數同時滿足時,才會自動觸發AOF重寫,即bgrewriteaof操作。

自動觸發bgrewriteaof時,可以看到伺服器日誌如下:

文件重寫的流程

文件重寫流程如下圖所示(圖片來源:http://www.cnblogs.com/yangmingxianshen/p/8373205.html):

關於文件重寫的流程,有兩點需要特別註意:(1)重寫由父進程fork子進程進行;(2)重寫期間Redis執行的寫命令,需要追加到新的AOF文件中,為此Redis引入了aof_rewrite_buf緩存。

對照上圖,文件重寫的流程如下:

1) Redis父進程首先判斷當前是否存在正在執行 bgsave/bgrewriteaof的子進程,如果存在則bgrewriteaof命令直接返回,如果存在bgsave命令則等bgsave執行完成後再執行。前面曾介紹過,這個主要是基於性能方面的考慮。

2) 父進程執行fork操作創建子進程,這個過程中父進程是阻塞的。

3.1) 父進程fork後,bgrewriteaof命令返回”Background append only file rewrite started”信息並不再阻塞父進程,並可以響應其他命令。Redis的所有寫命令依然寫入AOF緩衝區,並根據appendfsync策略同步到硬碟,保證原有AOF機制的正確。

3.2) 由於fork操作使用寫時複製技術,子進程只能共用fork操作時的記憶體數據。由於父進程依然在響應命令,因此Redis使用AOF重寫緩衝區(圖中的aof_rewrite_buf)保存這部分數據,防止新AOF文件生成期間丟失這部分數據。也就是說,bgrewriteaof執行期間,Redis的寫命令同時追加到aof_buf和aof_rewirte_buf兩個緩衝區。

4) 子進程根據記憶體快照,按照命令合併規則寫入到新的AOF文件。

5.1) 子進程寫完新的AOF文件後,向父進程發信號,父進程更新統計信息,具體可以通過info persistence查看。

5.2) 父進程把AOF重寫緩衝區的數據寫入到新的AOF文件,這樣就保證了新AOF文件所保存的資料庫狀態和伺服器當前狀態一致。

5.3) 使用新的AOF文件替換老文件,完成AOF重寫。

3. 啟動時載入

前面提到過,當AOF開啟時,Redis啟動時會優先載入AOF文件來恢複數據;只有當AOF關閉時,才會載入RDB文件恢複數據。

當AOF開啟,且AOF文件存在時,Redis啟動日誌:

當AOF開啟,但AOF文件不存在時,即使RDB文件存在也不會載入(更早的一些版本可能會載入,但3.0不會),Redis啟動日誌如下:

文件校驗

與載入RDB文件類似,Redis載入AOF文件時,會對AOF文件進行校驗,如果文件損壞,則日誌中會列印錯誤,Redis啟動失敗。但如果是AOF文件結尾不完整(機器突然宕機等容易導致文件尾部不完整),且aof-load-truncated參數開啟,則日誌中會輸出警告,Redis忽略掉AOF文件的尾部,啟動成功。aof-load-truncated參數預設是開啟的:

偽客戶端

因為Redis的命令只能在客戶端上下文中執行,而載入AOF文件時命令是直接從文件中讀取的,並不是由客戶端發送;因此Redis伺服器在載入AOF文件之前,會創建一個沒有網路連接的客戶端,之後用它來執行AOF文件中的命令,命令執行的效果與帶網路連接的客戶端完全一樣。

4. AOF常用配置總結

下麵是AOF常用的配置項,以及預設值;前面介紹過的這裡不再詳細介紹。

  • appendonly no:是否開啟AOF
  • appendfilename "appendonly.aof":AOF文件名
  • dir ./:RDB文件和AOF文件所在目錄
  • appendfsync everysec:fsync持久化策略
  • no-appendfsync-on-rewrite no:AOF重寫期間是否禁止fsync;如果開啟該選項,可以減輕文件重寫時CPU和硬碟的負載(尤其是硬碟),但是可能會丟失AOF重寫期間的數據;需要在負載和安全性之間進行平衡
  • auto-aof-rewrite-percentage 100:文件重寫觸發條件之一
  • auto-aof-rewrite-min-size 64mb:文件重寫觸發提交之一
  • aof-load-truncated yes:如果AOF文件結尾損壞,Redis啟動時是否仍載入AOF文件

五、方案選擇與常見問題

前面介紹了RDB和AOF兩種持久化方案的細節,下麵介紹RDB和AOF的特點、如何選擇持久化方案,以及在持久化過程中常遇到的問題等。

1. RDB和AOF的優缺點

RDB和AOF各有優缺點:

RDB持久化

優點:RDB文件緊湊,體積小,網路傳輸快,適合全量複製;恢復速度比AOF快很多。當然,與AOF相比,RDB最重要的優點之一是對性能的影響相對較小。

缺點:RDB文件的致命缺點在於其數據快照的持久化方式決定了必然做不到實時持久化,而在數據越來越重要的今天,數據的大量丟失很多時候是無法接受的,因此AOF持久化成為主流。此外,RDB文件需要滿足特定格式,相容性差(如老版本的Redis不相容新版本的RDB文件)。

AOF持久化

與RDB持久化相對應,AOF的優點在於支持秒級持久化、相容性好,缺點是文件大、恢復速度慢、對性能影響大。

2. 持久化策略選擇

在介紹持久化策略之前,首先要明白無論是RDB還是AOF,持久化的開啟都是要付出性能方面代價的:對於RDB持久化,一方面是bgsave在進行fork操作時Redis主進程會阻塞,另一方面,子進程向硬碟寫數據也會帶來IO壓力;對於AOF持久化,向硬碟寫數據的頻率大大提高(everysec策略下為秒級),IO壓力更大,甚至可能造成AOF追加阻塞問題(後面會詳細介紹這種阻塞),此外,AOF文件的重寫與RDB的bgsave類似,會有fork時的阻塞和子進程的IO壓力問題。相對來說,由於AOF向硬碟中寫數據的頻率更高,因此對Redis主進程性能的影響會更大。

在實際生產環境中,根據數據量、應用對數據的安全要求、預算限制等不同情況,會有各種各樣的持久化策略;如完全不使用任何持久化、使用RDB或AOF的一種,或同時開啟RDB和AOF持久化等。此外,持久化的選擇必須與Redis的主從策略一起考慮,因為主從複製與持久化同樣具有數據備份的功能,而且主機master和從機slave可以獨立的選擇持久化方案。

 

下麵分場景來討論持久化策略的選擇,下麵的討論也只是作為參考,實際方案可能更複雜更具多樣性。

(1)如果Redis中的數據完全丟棄也沒有關係(如Redis完全用作DB層數據的cache),那麼無論是單機,還是主從架構,都可以不進行任何持久化。

(2)在單機環境下(對於個人開發者,這種情況可能比較常見),如果可以接受十幾分鐘或更多的數據丟失,選擇RDB對Redis的性能更加有利;如果只能接受秒級別的數據丟失,應該選擇AOF。

(3)但在多數情況下,我們都會配置主從環境,slave的存在既可以實現數據的熱備,也可以進行讀寫分離分擔Redis讀請求,以及在master宕掉後繼續提供服務。

在這種情況下,一種可行的做法是:

master:完全關閉持久化(包括RDB和AOF),這樣可以讓master的性能達到最好

slave:關閉RDB,開啟AOF(如果對數據安全要求不高,開啟RDB關閉AOF也可以),並定時對持久化文件進行備份(如備份到其他文件夾,並標記好備份的時間);然後關閉AOF的自動重寫,然後添加定時任務,在每天Redis閑時(如凌晨12點)調用bgrewriteaof。

這裡需要解釋一下,為什麼開啟了主從複製,可以實現數據的熱備份,還需要設置持久化呢?因為在一些特殊情況下,主從複製仍然不足以保證數據的安全,例如:

  • master和slave進程同時停止:考慮這樣一種場景,如果master和slave在同一棟大樓或同一個機房,則一次停電事故就可能導致master和slave機器同時關機,Redis進程停止;如果沒有持久化,則面臨的是數據的完全丟失。
  • master誤重啟:考慮這樣一種場景,master服務因為故障宕掉了,如果系統中有自動拉起機制(即檢測到服務停止後重啟該服務)將master自動重啟,由於沒有持久化文件,那麼master重啟後數據是空的,slave同步數據也變成了空的;如果master和slave都沒有持久化,同樣會面臨數據的完全丟失。需要註意的是,即便是使用了哨兵(關於哨兵後面會有文章介紹)進行自動的主從切換,也有可能在哨兵輪詢到master之前,便被自動拉起機制重啟了。因此,應儘量避免“自動拉起機制”和“不做持久化”同時出現。

(4)異地災備:上述討論的幾種持久化策略,針對的都是一般的系統故障,如進程異常退出、宕機、斷電等,這些故障不會損壞硬碟。但是對於一些可能導致硬碟損壞的災難情況,如火災地震,就需要進行異地災備。例如對於單機的情形,可以定時將RDB文件或重寫後的AOF文件,通過scp拷貝到遠程機器,如阿裡雲、AWS等;對於主從的情形,可以定時在master上執行bgsave,然後將RDB文件拷貝到遠程機器,或者在slave上執行bgrewriteaof重寫AOF文件後,將AOF文件拷貝到遠程機器上。一般來說,由於RDB文件文件小、恢復快,因此災難恢復常用RDB文件;異地備份的頻率根據數據安全性的需要及其他條件來確定,但最好不要低於一天一次。

3. fork阻塞:CPU的阻塞

在Redis的實踐中,眾多因素限制了Redis單機的記憶體不能過大,例如:

  • 當面對請求的暴增,需要從庫擴容時,Redis記憶體過大會導致擴容時間太長;
  • 當主機宕機時,切換主機後需要掛載從庫,Redis記憶體過大導致掛載速度過慢;
  • 以及持久化過程中的fork操作,下麵詳細說明。

首先說明一下fork操作:

父進程通過fork操作可以創建子進程;子進程創建後,父子進程共用代碼段,不共用進程的數據空間,但是子進程會獲得父進程的數據空間的副本。在操作系統fork的實際實現中,基本都採用了寫時複製技術,即在父/子進程試圖修改數據空間之前,父子進程實際上共用數據空間;但是當父/子進程的任何一個試圖修改數據空間時,操作系統會為修改的那一部分(記憶體的一頁)製作一個副本。

雖然fork時,子進程不會複製父進程的數據空間,但是會複製記憶體頁表(頁表相當於記憶體的索引、目錄);父進程的數據空間越大,記憶體頁表越大,fork時複製耗時也會越多。

 

在Redis中,無論是RDB持久化的bgsave,還是AOF重寫的bgrewriteaof,都需要fork出子進程來進行操作。如果Redis記憶體過大,會導致fork操作時複製記憶體頁表耗時過多;而Redis主進程在進行fork時,是完全阻塞的,也就意味著無法響應客戶端的請求,會造成請求延遲過大。

對於不同的硬體、不同的操作系統,fork操作的耗時會有所差別,一般來說,如果Redis單機記憶體達到了10GB,fork時耗時可能會達到百毫秒級別(如果使用Xen虛擬機,這個耗時可能達到秒級別)。因此,一般來說Redis單機記憶體一般要限制在10GB以內;不過這個數據並不是絕對的,可以通過觀察線上環境fork的耗時來進行調整。觀察的方法如下:執行命令info stats,查看latest_fork_usec的值,單位為微秒。

為了減輕fork操作帶來的阻塞問題,除了控制Redis單機記憶體的大小以外,還可以適度放寬AOF重寫的觸發條件、選用物理機或高效支持fork操作的虛擬化技術等,例如使用Vmware或KVM虛擬機,不要使用Xen虛擬機。

4. AOF追加阻塞:硬碟的阻塞

前面提到過,在AOF中,如果AOF緩衝區的文件同步策略為everysec,則:在主線程中,命令寫入aof_buf後調用系統write操作,write完成後主線程返回;fsync同步文件操作由專門的文件同步線程每秒調用一次。

這種做法的問題在於,如果硬碟負載過高,那麼fsync操作可能會超過1s;如果Redis主線程持續高速向aof_buf寫入命令,硬碟的負載可能會越來越大,IO資源消耗更快;如果此時Redis進程異常退出,丟失的數據也會越來越多,可能遠超過1s。

為此,Redis的處理策略是這樣的:主線程每次進行AOF會對比上次fsync成功的時間;如果距上次不到2s,主線程直接返回;如果超過2s,則主線程阻塞直到fsync同步完成。因此,如果系統硬碟負載過大導致fsync速度太慢,會導致Redis主線程的阻塞;此外,使用everysec配置,AOF最多可能丟失2s的數據,而不是1s。

 

AOF追加阻塞問題定位的方法:

(1)監控info Persistence中的aof_delayed_fsync:當AOF追加阻塞發生時(即主線程等待fsync而阻塞),該指標累加。

(2)AOF阻塞時的Redis日誌:

Asynchronous AOF fsync is taking too long (disk is busy?). Writing the AOF buffer without waiting for fsync to complete, this may slow down Redis.

(3)如果AOF追加阻塞頻繁發生,說明系統的硬碟負載太大;可以考慮更換IO速度更快的硬碟,或者通過IO監控分析工具對系統的IO負載進行分析,如iostat(系統級io)、iotop(io版的top)、pidstat等。

5. info命令與持久化

前面提到了一些通過info命令查看持久化相關狀態的方法,下麵來總結一下。

(1)info Persistence

執行結果如下:

其中比較重要的包括:

  • rdb_last_bgsave_status:上次bgsave 執行結果,可以用於發現bgsave錯誤
  • rdb_last_bgsave_time_sec:上次bgsave執行時間(單位是s),可以用於發現bgsave是否耗時過長
  • aof_enabled:AOF是否開啟
  • aof_last_rewrite_time_sec: 上次文件重寫執行時間(單位是s),可以用於發現文件重寫是否耗時過長
  • aof_last_bgrewrite_status: 上次bgrewrite執行結果,可以用於發現bgrewrite錯誤
  • aof_buffer_length和aof_rewrite_buffer_length:aof緩存區大小和aof重寫緩衝區大小
  • aof_delayed_fsync:AOF追加阻塞情況的統計

(2)info stats

其中與持久化關係較大的是:latest_fork_usec,代表上次fork耗時,可以參見前面的討論。

六、總結

本文主要內容可以總結如下:

1、持久化在Redis高可用中的作用:數據備份,與主從複製相比強調的是由記憶體到硬碟的備份。

2、RDB持久化:將數據快照備份到硬碟;介紹了其觸發條件(包括手動出發和自動觸發)、執行流程、RDB文件等,特別需要註意的是文件保存操作由fork出的子進程來進行。

3、AOF持久化:將執行的寫命令備份到硬碟(類似於MySQL的binlog),介紹了其開啟方法、執行流程等,特別需要註意的是文件同步策略的選擇(everysec)、文件重寫的流程。

4、一些現實的問題:包括如何選擇持久化策略,以及需要註意的fork阻塞、AOF追加阻塞等。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Flink的部署 環境準備:windows7系統,本地連接。如果打開更改適配器設置後沒有本地連接,可以通過驅動精靈等軟體安裝網卡驅動。為了使部署在虛擬機上的伺服器可以與物理機進行連通,必須使物理機的網卡和虛擬機上伺服器的網卡在同一個網段上,在此我們規定一個網段192.168.0.*為標準,我的物理機 ...
  • 配置免安裝mysql 1) 解壓mysql包,放置自定義目錄,我這裡演示的是D:\mysql 2) 將根目錄下的my-default.ini,改名為my.ini 3) 複製下麵內容到my.ini 註意路徑 4) 環境變數配置 我的電腦-屬性-高級-環境變數-新建 變數mysql_home 值D:\m ...
  • 第一章: entity 實體 relationship 關係 diagram 圖表 model 模型 normal 規範的 formate 形式 hotel 旅館 guest 客人 promation 提升 推廣 state 狀態 type 類型 第二章: networking 網路 option ...
  • 老樣子,不多BiBi,直接進入主題! 有時候在linux下編譯好QT程式,用QTCreator運行沒問題,但是用命令./XX就會報錯:error while loading shared libraries:等等問題,有同學可能會問我的依賴庫已經放在可執行文件同目錄下了,怎麼會找不到呢,這裡需要 1 ...
  • 存儲過程是一組為了完成特定功能的sql語句集,存儲在資料庫中,經過一次編譯後再次調用不需要編譯。用戶通過指定存儲過程的名字來執行它。 基本語法: create or replace procedure procedure_01 is//一直糾結這裡是is還是as,查資料後發現:在存儲過程(proce ...
  • 小編帶大家來分析一下,零基礎入門學習大數據可以從事哪些工作呢? 2018年隨著當代信息技術的迅猛發展,大數據在人們的工作、生產、生活、學習、娛樂等方面,人們想開始學習大數據的時候,最常問我的問題是,“我應該學Hadoop(hadoop是一款開源軟體,主要用於分散式存儲和計算,他由HDFS和MapRe ...
  • 使用pyspark 在hive中建表,分區導入,增量,解決數據換行符問題彙總 ...
  • zookeeper是一個自動管理分散式集群的一個工具,以實現集群的高可用。 比如集群中的一個機器掛掉了,沒有zookeeper的話就得考慮掛一個機器對剩下集群工作的影響,而有了zookeeper,它就能自動幫你協調這些事兒。 正規的解釋如下: zookeeper是 一個開源的針對大型分散式系統的可靠 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...