redis持久化機制之AOF與RDB

来源:https://www.cnblogs.com/lufeiludaima/archive/2019/02/01/pz20190201.html
-Advertisement-
Play Games

什麼是redis Redis是一種面向“key-value”類型數據的分散式NoSQL資料庫系統,具有高性能、持久存儲、適應高併發應用場景等優勢。它雖然起步較晚,但發展卻十分迅速。 redis為何需要持久化 由於Redis的數據都存放在記憶體中,如果沒有配置持久化,redis重啟後數據就全丟失了,於是 ...


什麼是redis

  Redis是一種面向“key-value”類型數據的分散式NoSQL資料庫系統,具有高性能、持久存儲、適應高併發應用場景等優勢。它雖然起步較晚,但發展卻十分迅速。 

redis為何需要持久化

  由於Redis的數據都存放在記憶體中,如果沒有配置持久化,redis重啟後數據就全丟失了,於是需要開啟redis的持久化功能,將數據保存到磁碟上,當redis重啟後,可以從磁碟中恢複數據。redis提供兩種方式進行持久化;用於crash後,redis的恢復。

  1. 一種是RDB持久化(原理是將Reids在記憶體中的資料庫記錄定時dump到磁碟上的RDB持久化)
  2. 一種是AOF持久化(原理是將Reids的操作日誌以追加的方式寫入文件)

RDB與AOF區別

  rdb的特性如下:

    fork一個進程,遍歷hash table,利用copy on write,把整個db dump保存下來。save, shutdown, slave 命令會觸發這個操作。比較大,如果save, shutdown, slave 之前crash了,則中間的操作沒辦法恢復。用二進位壓縮存儲。    

  aof有如下特性:

    把寫操作指令,持續的寫到一個類似日誌文件里。(類似於從postgresql等資料庫導出sql一樣,只記錄寫操作)粒度較小,crash之後,只有crash之前沒有來得及做日誌的操作沒辦法恢復。以文本的方式記錄,可以打開文件看到詳細的操作記錄。

RDB與AOF優缺

  RDB優勢

    1). 一旦採用該方式,那麼你的整個Redis資料庫將只包含一個文件,這對於文件備份而言是非常完美的。比如,你可能打算每個小時歸檔一次最近24小時的數據,同時還要每天歸檔一次最近30天的數據。通過這樣的備份策略,一旦系統出現災難性故障,我們可以非常容易的進行恢復。

    2). 對於災難恢復而言,RDB是非常不錯的選擇。因為我們可以非常輕鬆的將一個單獨的文件壓縮後再轉移到其它存儲介質上。

    3). 性能最大化。對於Redis的服務進程而言,在開始持久化時,它唯一需要做的只是fork出子進程,之後再由子進程完成這些持久化的工作,這樣就可以極大的避免服務進程執行IO操作了。

    4). 相比於AOF機制,如果數據集很大,RDB的啟動效率會更高。

  RDB劣勢

    1). 如果你想保證數據的高可用性,即最大限度的避免數據丟失,那麼RDB將不是一個很好的選擇。因為系統一旦在定時持久化之前出現宕機現象,此前沒有來得及寫入磁碟的數據都將丟失。

    2). 由於RDB是通過fork子進程來協助完成數據持久化工作的,因此,如果當數據集較大時,可能會導致整個伺服器停止服務幾百毫秒,甚至是1秒鐘。

  AOF優勢

    1). 該機制可以帶來更高的數據安全性,即數據持久性。Redis中提供了3中同步策略,即每秒同步、每修改同步和不同步。事實上,每秒同步也是非同步完成的,其效率也是非常高的,所差的是一旦系統出現宕機現象,那麼這一秒鐘之內修改的數據將會丟失。而每修改同步,我們可以將其視為同步持久化,即每次發生的數據變化都會被立即記錄到磁碟中。可以預見,這種方式在效率上是最低的。至於無同步,無需多言,我想大家都能正確的理解它。

    2). 由於該機制對日誌文件的寫入操作採用的是append模式,因此在寫入過程中即使出現宕機現象,也不會破壞日誌文件中已經存在的內容。然而如果我們本次操作只是寫入了一半數據就出現了系統崩潰問題,不用擔心,在Redis下一次啟動之前,我們可以通過redis-check-aof工具來幫助我們解決數據一致性的問題。

    3). 如果日誌過大,Redis可以自動啟用rewrite機制。即Redis以append模式不斷的將修改數據寫入到老的磁碟文件中,同時Redis還會創建一個新的文件用於記錄此期間有哪些修改命令被執行。因此在進行rewrite切換時可以更好的保證數據安全性。

    4). AOF包含一個格式清晰、易於理解的日誌文件用於記錄所有的修改操作。事實上,我們也可以通過該文件完成數據的重建。

  AOF劣勢

    1). 對於相同數量的數據集而言,AOF文件通常要大於RDB文件。RDB 在恢復大數據集時的速度比 AOF 的恢復速度要快。

    2). 根據同步策略的不同,AOF在運行效率上往往會慢於RDB。總之,每秒同步策略的效率是比較高的,同步禁用策略的效率和RDB一樣高效。

持久化配置

  RDB持久化配置

    Redis會將數據集的快照dump到dump.rdb文件中。此外,我們也可以通過配置文件來修改Redis伺服器dump快照的頻率,在打開6379.conf文件之後,我們搜索save,可以看到下麵的配置信息:

    save 900 1              #在900秒(15分鐘)之後,如果至少有1個key發生變化,則dump記憶體快照。

    save 300 10            #在300秒(5分鐘)之後,如果至少有10個key發生變化,則dump記憶體快照。

    save 60 10000        #在60秒(1分鐘)之後,如果至少有10000個key發生變化,則dump記憶體快照。

  AOF持久化配置

    在Redis的配置文件中存在三種同步方式,它們分別是:

    appendfsync always     #每次有數據修改發生時都會寫入AOF文件。

    appendfsync everysec  #每秒鐘同步一次,該策略為AOF的預設策略。

    appendfsync no          #從不同步。高效但是數據不會被持久化。

抉擇

  二者選擇的標準,就是看系統是願意犧牲一些性能,換取更高的緩存一致性(aof),還是願意寫操作頻繁的時候,不啟用備份來換取更高的性能,待手動運行save的時候,再做備份(rdb)。一般來說, 如果想達到足以媲美 PostgreSQL 的數據安全性, 你應該同時使用兩種持久化功能。如果你非常關心你的數據, 但仍然可以承受數分鐘以內的數據丟失, 那麼你可以只使用 RDB 持久化。有很多用戶都只使用 AOF 持久化, 但我們並不推薦這種方式: 因為定時生成 RDB 快照(snapshot)非常便於進行資料庫備份, 並且 RDB 恢複數據集的速度也要比 AOF 恢復的速度要快, 除此之外, 使用 RDB 還可以避免之前提到的 AOF 程式的 bug 。因為以上提到的種種原因, 未來我們可能會將 AOF 和 RDB 整合成單個持久化模型。 (這是一個長期計劃。)

第一篇自己的博客;希望持之以恆。

 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • SqlServer中的系統資料庫有五個,平時寫代碼不太關註,今天一時興起研究了一下。 1. master 記錄SQL Server系統的所有系統級信息,例如:登陸賬戶信息、鏈接伺服器和系統配置設置、記錄其他所有資料庫的存在、數據文件的位置、SQL Server的初始化信息等。如果master資料庫不 ...
  • 此篇文章是主要介紹Redis在數據存儲方面的其中一種方式,壓縮列表。本文會介紹1. 壓縮列表(ziplist)的使用場景 2.如何達到節約記憶體的效果?3.壓縮列表的存儲格式 4. 連鎖更新的問題 5. conf文件配置。在實踐上的操作主要是對conf配置文件進行配置,具體上沒有確切的一個值,更多是經 ...
  • [TOC] 第二章 shanzm 準備 1.建立員工表——EMP 欄位說明: |EMP(員工表)欄位|說明| | | | EMPNO|工號 ENAME|姓名 JOB|工種 MGR|上級編號 HIREDATE|雇佣日期 SAL|工資 COMM|獎金 DEPTNO|部門編號 2.建立部門表——DEPT ...
  • [TOC] 明確MongoDB在企業級應用中充當的角色,為之後的技術選型提供一個可查閱的信息簡報。 1、MongoDB是什麼? 2、為什麼要使用MongoDB? 3、主要特性 4、C/S服務模型 5、完善的命令行工具 6、幾個shell實操 7、在Java中使用MongoDB 1、MongoDB是什 ...
  • # 以下選項會被MySQL客戶端應用讀取。 # 註意只有mysql附帶的客戶端應用程式保證可以讀取這段內容。 # 如果你想你自己的MySQL應用程式獲取這些值。 # 需要在MySQL客戶端庫初始化的時候指定這些選項。 # [client] #password = [your_password] po ...
  • #備份資料庫:導出全部資料庫:--all-databases, -A導出幾個資料庫。參數後面所有名字參量都被看作資料庫名:--databases, -B導出存儲過程以及自定義函數:--routines, -R導出事件:--events, -E不緩衝查詢,直接導出到標準輸出。預設為打開狀態,使用--s ...
  • 死鎖雜談 當資料庫死鎖時,SqlServer會釋放一個優先順序較低的鎖,讓另一個事務運行;所以,即時去捕捉資料庫死鎖,是挺不容易的。 如果,資料庫死鎖比較長時間,那麼死鎖是可以被捕捉的。 可以用SqlServer活動監視器來查看,哪些進程鎖了資料庫。 首先打開SqlServer活動監視器,然後可以看到 ...
  • 一 環境準備 圖形界面:略 安裝包: linux.x64_11gR2_database_1of2.zip linux.x64_11gR2_database_2of2.zip 二 安裝ASM-Oracle準備 2.1 用戶名/組建立 2.2 相關目錄創建 附:oracle預設不支持CentOS系統安裝 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...