Redis入門(7) - 持久化、主從複製、安全

来源:https://www.cnblogs.com/zhixin9001/archive/2020/06/07/13062350.html
-Advertisement-
Play Games

持久化 RDB方式 Redis實現快照的過程 AOF方式 操作系統緩存 RDB與AOF 複製 主從資料庫 主從複製的意義 安全 持久化 Redis通過將數據存儲在記憶體中而獲得了極快的速度,但為了保證Redis在重啟後數據不丟失,需要將數據從記憶體持久化到硬碟中。 持久化的方式有兩種,二者可以只用一種, ...


  • 持久化
    • RDB方式
      • Redis實現快照的過程
    • AOF方式
      • 操作系統緩存
      • RDB與AOF
  • 複製
    • 主從資料庫
    • 主從複製的意義
  • 安全

持久化

Redis通過將數據存儲在記憶體中而獲得了極快的速度,但為了保證Redis在重啟後數據不丟失,需要將數據從記憶體持久化到硬碟中。

持久化的方式有兩種,二者可以只用一種,也可以組合使用:

  • RDB方式
  • AOF方式

RDB方式

RDB是Redis預設採用的持久化方式,當符合一定條件時Redis會自動將記憶體中的所有數據進行快照(snapshotting)並存儲在硬碟上。進行快照的條件可以由用戶在配置文件中自定義,配置由兩個參數構成:時間和改動的鍵的個數。當在指定的時間內被更改的鍵的個數大於指定的數值時就會進行快照。在配置文件redis.conf中已經預置了3個條件:

save 900 1
save 300 10
save 60 10000

這些條件直接是“或”的關係。如果需要禁用自動快照,可以將所有的save配置刪除。

除了自動快照,還可以手動發送SAVE或BGSAVE命令讓Redis執行快照,SAVE命令是由主進程進行快照操作,會阻塞住其他請求,而BGSAVE命令則會通過fork子進程進行快照操作。

Redis預設會將快照文件存儲在當前目錄的dump.rdb文件中,可以通過配置dir和dbfilename兩個參數分別指定快照文件的存儲路徑和文件名。

Redis實現快照的過程

RDB快照的過程為:

  1. Redis使用fork函數複製一份當前進程(父進程)的副本(子進程);
  2. 父進程繼續接收並處理客戶端發來的命令,子進程則開始將記憶體中的數據寫入硬碟中的臨時文件;
  3. 當子進程寫入完所有數據後,會用該臨時文件替換舊的RDB文件,至此一次快照操作完成。
  4. Redis重新啟動時會讀取RDB快照文件,將數據從硬碟載入到記憶體。(根據數據量大小與結構和伺服器性能不同,這個時間也不同。通常將一個記錄一千萬個字元串類型鍵、大小為1GB的快照文件載入到記憶體中需要花費20~30秒鐘)。

Redis在進行快照的過程中不會修改RDB文件,只有快照結束後才會將舊的文件替換成新的,也就是說任何時候RDB文件都是完整的,所以可以通過定時備份RDB文件來實現Redis資料庫備份。RDB文件是經過壓縮的二進位格式,占用的空間會小於記憶體中的數據大小。但壓縮過程也會增加CPU占用,如有需要可以通過修改配置rdbcompression參數以禁用壓縮。

config set rdbcompression no

AOF方式

AOF全稱為append only file,在這種持久化方式下,每執行一條會更改Redis中的數據的命令,Redis都會將該命令寫入硬碟中的AOF文件。
AOF文件的保存位置和RDB文件的位置相同,都可以通過dir參數設置,預設的文件名是appendonly.aof,可以通過appendfilename參數修改。
AOF文件是純文本文件,其內容是Redis客戶端向Redis發送的原始通信協議的內容。設想執行這樣幾條命令:

SET key1 1
SET key1 2
SET key1 3

AOF文件中會記錄這三次操作,但實際上前兩條實際上是多餘的,只需要記錄最終一次的命令即可。隨著執行的命令越來越多,AOF文件也會越來越大,而Redis可以通過去除這類多餘命令記錄,自動對AOF文件進行優化。

每當達到一定條件時Redis就會自動重寫AOF文件,這個條件可以在配置文件中設置:

auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb

auto-aof-rewrite-percentage設置當目前的AOF文件大小超過上一次重寫時的AOF文件大小的百分之多少時會再次進行重寫,如果之前沒有重寫過,則以啟動時的AOF文件大小為依據。
auto-aof-rewrite-min-size則限制了允許重寫的最小AOF文件大小,通常在AOF文件很小的情況下即使其中有很多冗餘的命令也不需要重寫。

除了讓Redis自動執行重寫外,還可以主動使用BGREWRITEAOF命令手動執行AOF重寫。

在重啟時Redis會逐個執行AOF文件中的命令來將硬碟中的數據載入到記憶體中,載入的速度相較RDB會慢一些。

操作系統緩存

雖然每次執行更改資料庫內容的操作時,AOF都會將命令記錄在AOF文件中,但實際上由於操作系統的緩存機制的存在,數據並沒有真正地寫入硬碟,而是進入了系統的硬碟緩存。在預設情況下系統每30秒會執行一次同步操作,以便將硬碟緩存中的內容真正地寫入硬碟,在這30秒的過程中如果系統異常退出則會導致硬碟緩存中的數據丟失。一般來講啟用AOF持久化的應用都無法容忍這樣的損失,這就需要Redis在寫入AOF文件後主動要求系統將緩存內容同步到硬碟中。
可以通過appendfsync參數設置同步的時機:

config set appendfsync always/eversec/no
  • always 每次執行寫入都會執行同步,這種模式最安全但也最慢
  • everysec 每秒同步一次
  • no 不主動進行同步操作,操作系統沒30秒同步一次

RDB與AOF

如果選擇RDB的持久化方式,一旦Redis異常退出,就會丟失最後一次快照以後更改的所有數據。這就需要開發者根據具體的應用場合,通過組合設置自動快照條件的方式來將可能發生的數據損失控制在能夠接受的範圍。如果數據很重要以至於無法承受任何損失,則可以考慮使用AOF方式進行持久化。
可以同時開啟AOF和RDB,這樣既保證了數據安全,又使得進行備份等操作十分容易。此時重新啟動Redis後Redis會使用AOF文件來恢複數據,因為AOF方式的持久化可能丟失的數據更少。

複製

Redis的持久化功能可以保證在伺服器重啟的情況下不會損失(或少量損失)數據。但是由於數據只存儲在一臺伺服器,如果這台伺服器的硬碟出現故障,也會導致數據丟失。為了避免單點故障,將資料庫複製多個副本以部署在不同的伺服器上,組成集群,這樣即使有一臺伺服器出現故障時,其他伺服器依然可以繼續提供服務,此外也提升了整體的性能。
Redis提供了複製(replication)功能用以保障構成集群的多台伺服器之間數據的同步。

主從資料庫

構成集群的資料庫分為兩類,主資料庫(master)和從資料庫(slave)。主資料庫可以進行讀寫操作,當發生寫操作時自動將數據同步給從資料庫。而從資料庫一般是只讀的,並接受主資料庫同步過來的數據。主從資料庫是一對多的關係。

要把一個資料庫作為從資料庫,需要在啟動參數或者配置文件中加入:

slaveof 主資料庫的IP 埠

接下來使用redis的docker鏡像試驗主從複製,首先啟動兩個實例:

docker run --name redis-6379 -p 6379:6379 -d redis
docker run --name redis-6380 -p 6380:6379 -d redis

redis-6379將被作為主資料庫,redis-6380為從庫,首先獲取redis-6379容器的內網IP地址:

docker inspect redis-6379

在"NetworkSettings"結點下可以看到IP和埠為172.17.0.2 6379

進入redis-6380,設置其為從資料庫:

> docker exec -it redis-6380 /bin/bash
root@cd19cbbab6d9:/data# redis-cli
127.0.0.1:6379> SLAVEOF 172.17.0.2 6379

這樣主從資料庫就設置好了,可以測試下在主資料庫插入一個鍵,然後在從資料庫讀取。

從資料庫預設是只讀的,嘗試寫入將提示:

SET KEY1 1
(error) READONLY You can't write against a read only replica.

可以通過設置從資料庫的配置文件中的slave-read-only為no以使從資料庫可寫,但是對從資料庫的任何更改都不會同步給其他資料庫,並且一旦主資料庫中更新了對應的數據就會覆蓋從資料庫中的改動。

在redis實例運行也可以使用SLAVEOF命令,如果該資料庫已經是其他主資料庫的從資料庫,則SLAVEOF命令會停止和原來資料庫的同步轉而和新資料庫同步。還可以使用SLAVEOF NO ONE來使當前資料庫停止接收其他資料庫的同步轉成主資料庫。

主從複製的意義

  • 數據冗餘:主從複製實現了數據的熱備份,是持久化之外的一種數據冗餘方式。

  • 故障恢復:當主節點出現問題時,可以由從節點提供服務,實現快速的故障恢復;實際上是一種服務的冗餘。

  • 讀寫分離:可以用於實現讀寫分離,主庫寫、從庫讀,讀寫分離不僅可以提高伺服器的負載能力,同時可根據需求的變化,改變從庫的數量;

  • 負載均衡:在主從複製的基礎上,配合讀寫分離,可以由主節點提供寫服務,由從節點提供讀服務分擔伺服器負載;尤其是在寫少讀多的場景下,通過多個從節點分擔讀負載,可以大大提高Redis伺服器的併發量。

  • 高可用基石:除了上述作用以外,主從複製還是哨兵和集群能夠實施的基礎,因此說主從複製是Redis高可用的基礎。

安全

在安全方面,Redis提供了下麵幾種策略。

可信的環境

Redis安全設計都是建立在“Redis運行在可信環境”這個前提下的,在生產環境運行時不能允許外界直接連接到Redis伺服器上,而應該通過應用程式進行中轉,運行在可信的環境中是保證Redis安全的最重要方法。

Redis的預設會接受來自任何地址發送來的請求,要更改這一設置,可以在配置文件中修改bind參數,如只允許本機應用連接Redis,可以將bind參數改成:

bind 127.0.0.1

密碼

要設置密碼,可以修改配置文件中的requirepass參數,例如:

requirepass 123456

docker鏡像也可以在啟動容器的時候設置密碼:

docker run --name redis-test -p 6379:6379 redis --requirepass 123456

添加密碼後,客戶端在連接時需要輸入密碼:

redis-cli -h 127.0.0.1 -p 6379 -a 123456

設置密碼後,如果要搭建主從資料庫,需要在從資料庫配置文件中的masterauth添加主資料庫的密碼。

需要註意的是,由於Redis的性能極高,並且輸入錯誤密碼後Redis並不會進行主動延遲,所以攻擊者可以通過窮舉法破解Redis的密碼(1秒內能夠嘗試十幾萬個密碼),因此在設置時一定要選擇複雜的密碼。

命令重命名

Redis支持在配置文件中將命令重命名,比如將FLUSHALL命令重命名成一個比較複雜的名字,以保證只有自己的應用可以使用該命令:

rename-command FLUSHALL oiuyhjkghjgyutdfhbuhbnjinjbgyvtcrd

如果希望直接禁用某個命令,可以將命令重命名成空字元串。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 系列文章 基於 abp vNext 和 .NET Core 開發博客項目 - 使用 abp cli 搭建項目 基於 abp vNext 和 .NET Core 開發博客項目 - 給項目瘦身,讓它跑起來 基於 abp vNext 和 .NET Core 開發博客項目 - 完善與美化,Swagger登場 ...
  • 從1992年linux誕生至今產生了數百種之多的Linux發行版 ...
  • Linux 內核,這個經常聽見,卻不不知道它具體是幹嘛的東西,是不是覺得非常神秘? Linux 內核看不見摸不著,而對於這類東西,我們經常無從下手。本文就以淺顯易懂的語言,帶你鑽進 Linux 內核,看它到底長啥樣。 內核是 Linux 操作系統的核心組件,它向上連接應用程式,向下直接與硬體打交道。 ...
  • windows10安裝配置WSL(Ubuntu) 怎麼在windows系統上用上Linux?有這麼幾種方法: 1. 安裝雙系統。這種方法的缺點是每次切換系統都需要關機、切換系統。 2. 虛擬機+Linux。這種方法需要一定硬體配置,因為虛擬機運行還是比較吃記憶體的。 3. windows10+WSL。 ...
  • docker倉庫就是用來存放鏡像的地方;其實docker registry我們理解為存放docker鏡像倉庫的倉庫比較準確吧;因為docker的鏡像倉庫通常是把同一類的鏡像用不同的版本來區別,而registry則是用來存放這些倉庫的倉庫;預設安裝docker都是從dockerhub鏡像倉庫下載鏡像... ...
  • 初始onion omega2+設置方法。1. wifi AP上電wifi熱點自動打開,ssid為omega-xxxx,預設ip地址為192.168.3.1。2. 電腦連接到wifi APomega-xxxx,預設密碼是123456783. 以瀏覽器,連接192.168.3.1密碼onioneer。設... ...
  • 順序查找:就是從第一個元素開始,按索引順序遍歷待查找序列,直到找出給定目標或者查找失敗 缺點:效率低 -- 需要遍歷整個待查序列 二分法查找:也稱為折半法,是一種在有序數組中查找特定元素的搜索演算法。 1:首先,從數組的中間元素開始搜索,如果該元素正好是目標元素,則搜索過程結束,否則執行下一步。 2: ...
  • 1.trunc 函數 截斷函數既可以截取日期 也可以截取數字 返回今天的日期 select trunc(sysdate) from dual; --07-6月 -20 返回當月第一天 select trunc(sysdate,'mm') from dual; --01-6月 -20 返回當年第一天 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...