詳解Redis RDB持久化、AOF持久化

1.持久化 1.1 持久化簡介持久化（Persistence），持久化是將程式數據在持久狀態和瞬時狀態間轉換的機制，即把數據（如記憶體中的對象）保存到可永久保存的存儲設備中（如磁碟）。 1.2 redis持久化 redis為記憶體資料庫，為了防止伺服器宕機以及伺服器進程退出後，伺服器數據丟失，Redi ...

1.持久化

1.1 持久化簡介

持久化（Persistence），持久化是將程式數據在持久狀態和瞬時狀態間轉換的機制，即把數據（如記憶體中的對象）保存到可永久保存的存儲設備中（如磁碟）。

1.2 redis持久化

redis為記憶體資料庫，為了防止伺服器宕機以及伺服器進程退出後，伺服器數據丟失，Redis提供了持久化功能，即將Redis中記憶體數據持久化到磁碟中。Redis 提供了不同級別的持久化方式：

RDB持久化方式：可以在指定的時間間隔能對數據進行快照存儲.
AOF持久化方式：記錄每次對伺服器寫的操作,當伺服器重啟的時候會重新執行這些命令來恢複原始的數據,AOF命令以redis協議追加保存每次寫的操作到文件末尾.Redis還能對AOF文件進行後臺重寫,使得AOF文件的體積不至於過大.

如果伺服器開啟了AOF持久化功能。伺服器會優先使用AOF文件還原數據。只有關閉了AOF持久化功能，伺服器才會使用RDB文件還原數據

2. RDB持久化

2.1 RDB文件格式

RDB文件是一個經過壓縮的二進位文件（預設的文件名：dump.rdb），由多個部分組成，RDB格式：

2.2 RDB文件持久化創建與載入

在 Redis持久化時， RDB 程式將當前記憶體中的資料庫狀態保存到磁碟文件中，在 Redis 重啟動時， RDB 程式可以通過載入 RDB 文件來還原資料庫的狀態。

2.3 工作方式

當 Redis 需要保存 dump.rdb 文件時，伺服器執行以下操作:

Redis 調用forks。同時擁有父進程和子進程。
子進程將數據集寫入到一個臨時 RDB 文件中。
當子進程完成對新 RDB 文件的寫入時，Redis 用新 RDB 文件替換原來的 RDB 文件，並刪除舊的 RDB 文件。

這種工作方式使得 Redis 可以從寫時複製（copy-on-write）機制中獲益。

2.4 創建方式

SAVE

同步操作，在執行該命令時，伺服器會被阻塞，拒絕客戶端發送的命令請求

redis> save複製代碼

BGSAVE

非同步操作，在執行該命令時，子進程執行保存工作，伺服器還可以繼續讓主線程處理客戶端發送的命令請求

redis>bgsave複製代碼

自自動創建

由於BGSAVE命令可不阻塞伺服器進程下執行，可以讓用戶自定義save屬性，讓伺服器每個一段時間自動執行一次BGSAVE命令（即通過配置文件對 Redis 進行設置，讓它在“ N 秒內數據集至少有 M 個改動”這一條件被滿足時，自動進行數據集保存操作）。

比如：
/*
服

服務器在900秒之內，對資料庫進行了至少1次修改

*/Save 900 1
/*伺服器在300秒之內，對資料庫進行了至少10次修改
*/Save 300 10
/*伺服器在60秒之內，對資料庫進行了至少10000次修改
*/Save 60 10000複製代碼

只要滿足其中一個條件就會執行BGSAVE命令

2.5 RDB 預設配置

################################ SNAPSHOTTING ################################ # # Save the DB on disk: #在給定的秒數和給定的對資料庫的寫操作數下，自動持久化操作。 # save <seconds> <changes> # save 900 1 save 300 10 save 60 10000 #bgsave發生錯誤時是否停止寫入，一般為yes stop-writes-on-bgsave-error yes #持久化時是否使用LZF壓縮字元串對象? rdbcompression yes #是否對rdb文件進行校驗和檢驗，通常為yes rdbchecksum yes # RDB持久化文件名 dbfilename dump.rdb #持久化文件存儲目錄 dir ./

3. AOF持久化

3.1 AOF持久化簡介

AOF持久化是通過保存Redis伺服器所執行的寫命令來記錄資料庫狀態

AOF持久化功能實現：

append命令追加：當AOF持久化功能處於打開狀態時，伺服器執行完一個寫命令會協議格式被執行的命令追加伺服器狀態的aof_buf緩衝區的末尾。

reids>SET KET VAULE //協議格式 \r\n$3\r\nSET\r\n$3\r\nKEY\r\n$5\r\nVAULE\r\n

文件寫入和同步sync：Redis的伺服器進程是一個事件迴圈，這個文件事件負責接收客戶端的命令請求以及向客戶端發送命令回覆。當執行了append命令追加後，伺服器會調用flushAppendOnlyFile函數是否需要將AOF緩衝區的內容寫入和保存到AOF文件

redis> SET msg "Ccww"
redis> SADD persistence "rdb" "aof"
redis> RPUSH size 128 256 512

3.2 AOF持久化策略

AOF持久化策略(即緩衝區內容寫入和同步sync到AOF中)，可以通過配置appendfsync屬性來選擇AOF持久化策略：

always：將aof_buf緩衝區中的所有內容寫入並同步到AOF文件，每次有新命令追加到 AOF 文件時就執行一次 fsync。
everysec（預設）：如果上次同步AOF的時間距離現在超過一秒，先將aof_buf緩衝區中的所有內容寫入到AOF文件，再次對AOF文件進行同步，且同步操作由一個專門線程負責執行。
no：將aof_buf緩衝區中的所有內容寫入到AOF文件，但並不對AOF文件進行同步，何時同步由操作系統(OS)決定。

AOF持久化策略的效率與安全性：

Always:效率最慢的，但安全性是最安全的，即使出現故障宕機，持久化也只會丟失一個事件迴圈的命令數據
everysec：兼顧速度和安全性，出現宕機也只是丟失一秒鐘的命令數據
No:寫入最快，但綜合起來單次同步是時間是最長的，且出現宕機時會丟失上傳同步AOF文件之後的所有命令數據。

3.3 AOF重寫

由於AOF持久化會把執行的寫命令追加到AOF文件中，所以隨著時間寫入命令會不斷增加， AOF文件的體積也會變得越來越大。AOF文件體積大對Reids伺服器，甚至宿主伺服器造成影響。

為瞭解決AOF文件體積膨脹的問題，Redis提供了AOF文件重寫（rewrite）功能：

生成一個不保存任何浪費空間的冗餘命令新的AOF文件，且新舊AOF文件保存資料庫狀態一樣的
新的AOF文件是通過讀取資料庫中的鍵值對來實現的，程式無須對現有的AOF文件進行讀入，分析，或者寫入操作。
為防止緩衝區溢出，重寫處理list，hash，set以及Zset時，超過設置常量數量時會多條相同命令記錄一個集合。
Redis 2.4 可以通過配置自動觸發 AOF 重寫，觸發參數 auto-aof-rewrite-percentage(觸發AOF文件執行重寫的增長率) 以及 auto-aof-rewrite-min-size(觸發AOF文件執行重寫的最小尺寸)

AOF重寫的作用：

減少磁碟占用量
加速數據恢復

Redis伺服器使用單個線程來處理命令請求，伺服器大量調用aof_rewrite函數，在AOF重寫期間，則無法處理client發來的命令請求，所以AOF重寫程式放在子進程執行，好處：

子進程進行AOF重寫期間，伺服器進程可以繼續處理命令請求
子進程帶有伺服器進程的數據副本，保證了數據的安全性。

AOF重寫使用子進程會造成資料庫與重寫後的AOF保存的數據不一致，為瞭解決這種數據不一致，redis使用了AOF重寫緩衝區實現：

BGREWRITEAOF命令實現原理（只有信號處理函數執行時才對伺服器進程造成阻塞）：

執行命令，同時將命令追加到AOF緩衝區和AOF重寫緩衝區
當AOF子進程重寫完成後，發送一個信號給父進程，父進程將執行AOF重寫緩衝區中的所有內容寫入到新AOF文件中，新AOF文件保存的資料庫狀態將和伺服器當前的資料庫狀態一致。
對新的AOF文件進行改名，原子性地覆蓋現有AOF文件，完成新舊兩個AOF文件替換處理完成。

3.4 AOF持久化預設參數

############################## APPEND ONLY MODE ############################### #開啟AOF持久化方式 appendonly no #AOF持久化文件名 appendfilename "appendonly.aof" #每秒把緩衝區的數據fsync到磁碟 appendfsync everysec # appendfsync no #是否在執行重寫時不同步數據到AOF文件 no-appendfsync-on-rewrite no # 觸發AOF文件執行重寫的增長率 auto-aof-rewrite-percentage 100 #觸發AOF文件執行重寫的最小size auto-aof-rewrite-min-size 64mb #redis在恢復時，會忽略最後一條可能存在問題的指令 aof-load-truncated yes #是否打開混合開關 aof-use-rdb-preamble yes

4 持久化方式總結與抉擇

4.1 RDB優缺點

RDB的優點

RDB是一個非常緊湊的文件,它保存了某個時間點得數據集,非常適用於數據集的備份,比如你可以在每個小時報保存一下過去24小時內的數據,同時每天保存過去30天的數據,這樣即使出了問題你也可以根據需求恢復到不同版本的數據集.
基於RDB文件緊湊性,便於複製數據到一個遠端數據中心，非常適用於災難恢復.
RDB在保存RDB文件時父進程唯一需要做的就是fork出一個子進程,接下來的工作全部由子進程來做，父進程不需要再做其他IO操作，所以RDB持久化方式可以最大化redis的性能.
與AOF相比,在恢復大的數據集的時候，RDB方式會更快一些.

RDB的缺點

如果你希望在redis意外停止工作（例如電源中斷）的情況下丟失的數據最少的話，那麼RDB不適合你.雖然你可以配置不同的save時間點(例如每隔5分鐘並且對數據集有100個寫的操作),是Redis要完整的保存整個數據集是一個比較繁重的工作,你通常會每隔5分鐘或者更久做一次完整的保存,萬一在Redis意外宕機,你可能會丟失幾分鐘的數據.
RDB 需要經常fork子進程來保存數據集到硬碟上,當數據集比較大的時候,fork的過程是非常耗時的,可能會導致Redis在一些毫秒級內不能響應客戶端的請求.如果數據集巨大並且CPU性能不是很好的情況下,這種情況會持續1秒,AOF也需要fork,但是你可以調節重寫日誌文件的頻率來提高數據集的耐久度.

4.2 AOF的優缺點

AOF的優點：

使用AOF 會讓你的Redis更加耐久:使用不同的fsync策略：無fsync,每秒fsync,每次寫的時候fsync.使用預設的每秒fsync策略,Redis的性能依然很好(fsync是由後臺線程進行處理的,主線程會儘力處理客戶端請求),一旦出現故障，你最多丟失1秒的數據.
AOF文件是一個只進行追加的日誌文件,所以不需要寫入seek,即使由於某些原因(磁碟空間已滿，寫的過程中宕機等等)未執行完整的寫入命令,你也可使用redis-check-aof工具修複問題.
Redis可以在AOF文件體積變得過大時，自動對 AOF 進行重寫：重寫後的新 AOF 文件包含了恢復當前數據集所需的最小命令集合。整個重寫操作是絕對安全的，因為 Redis 在創建新 AOF 文件的過程中，會繼續將命令追加到現有的 AOF 文件裡面，即使重寫過程中發生停機，現有的 AOF 文件也不會丟失。而一旦新 AOF 文件創建完畢，Redis 就會從舊 AOF 文件切換到新 AOF 文件，並開始對新 AOF 文件進行追加操作。
AOF 文件有序地保存了對資料庫執行的所有寫入操作，這些寫入操作以 Redis 協議的格式保存，因此 AOF 文件的內容非常容易被人讀懂，對文件進行分析（parse）也很輕鬆。導出（export） AOF 文件也非常簡單（例如，如果你不小心執行了 FLUSHALL 命令，但只要 AOF 文件未被重寫，那麼只要停止伺服器，移除 AOF 文件末尾的 FLUSHALL 命令，並重啟 Redis ，就可以將數據集恢復到 FLUSHALL 執行之前的狀態）。

AOF 缺點：

對於相同的數據集來說，AOF 文件的體積通常要大於 RDB 文件的體積。
根據所使用的 fsync 策略，AOF 的速度可能會慢於 RDB 。在一般情況下，每秒 fsync 的性能依然非常高，而關閉 fsync 可以讓 AOF 的速度和 RDB 一樣快，即使在高負荷之下也是如此。不過在處理巨大的寫入載入時，RDB 可以提供更有保證的最大延遲時間（latency）。

4.3 如何選擇使用哪種持久化方式？

一般來說，如果想達到數據安全性，你應該同時使用兩種持久化功能。

如果你非常關心你的數據，但仍然可以承受數分鐘以內的數據丟失，那麼你可以只使用 RDB 持久化。

有很多用戶都只使用 AOF 持久化，但並不推薦這種方式：因為定時生成 RDB 快照（snapshot）非常便於進行資料庫備份，並且 RDB 恢複數據集的速度也要比 AOF 恢復的速度要快，除此之外，使用 RDB 還可以避免之前提到的 AOF 程式的 bug 。