rsync+inotify實時同步

来源:http://www.cnblogs.com/caicairui/archive/2017/06/11/6984697.html
-Advertisement-
Play Games

1.rsync 與傳統的cp、tar備份方式相比,rsync具有安全性高、備份迅速、支持增量備份的優點,通過rsync可以解決對實時性要求不高的數據備份需求,例如定期的備份文件伺服器數據到遠端伺服器,對本地磁碟定期做數據鏡像等。 隨著應用系統規模不斷的擴大,對數據安全性和可靠性也提出了更高的要求,r ...


1.rsync

與傳統的cptar備份方式相比,rsync具有安全性高、備份迅速、支持增量備份的優點,通過rsync可以解決對實時性要求不高的數據備份需求,例如定期的備份文件伺服器數據到遠端伺服器,對本地磁碟定期做數據鏡像等。

隨著應用系統規模不斷的擴大,對數據安全性和可靠性也提出了更高的要求,rsync在高端業務中也逐漸暴露出許多不足。首先,rsync實時同步時,需要掃描所有的文件進行比對,進行差量傳輸。如果文件數量打到了百萬甚至千萬量級,掃描所有的文件是非常耗時的,而且正在發生變化的往往是其中很少一部分,這是非常低效的方式。其次,rsync不能實時監測、同步數據。雖然它可以通過linux守護進程的方式進行出發同步,但是兩次出發動作一定會有時間差,這樣就導致了服務端和客戶端出現不一致,無法在應用故障時完全的恢複數據。基於以上原因,rsync+inotify就出現了!

2.inotify(監控)

 

inotify是一種強大的、細粒度的、非同步的文件系統事件監控機制。通過inotify可以監控文件系統中的添加、刪除、修改、移動等各種細微事件,利用這個內核藉口,第三方軟體就可以監控文件系統下的各種情況變化,而inotify-tools就是這樣的一個第三方軟體。

 

一、服務端配置(只需要安裝rsync

 

共用到/tmp/下:

 

1.添加虛擬用戶useradd rsync -s /sbin/nologin

 

  chown -R rsync.rsync /tmp/

 

2.配置rsyncd.conf配置文件

 

vim rsyncd.conf

 

#rsync_config_______________start

 

#rsyncd.conf start##

 

uid = rsync(用戶)

 

gid = rsync(用戶)

 

use chroot = no(防止出現安全問題)

 

max connections = 200(有多少個客戶端可以連接我這個備份伺服器)

 

timeout = 300(超時,多長時間沒有動作就斷掉連接)

 

pid file = /var/run/rsyncd.pid(進程號,將進程號放在這個文件里)

 

lock file = /var/run/rsync.lock(相當於“鎖”的概念,上廁所鎖門的概念)

 

log file = /var/log/rsyncd.log(出錯了,可以查看log日誌文件)

 

[tmp](模塊)

 

path = /tmp/(路徑)

 

ignore errors(忽略錯誤)

 

read only = false(只讀為假,可讀,可寫的意思)

 

list = false(不允許列表)

 

hosts allow = 10.0.0.0/24(允許的主機)

 

hosts deny = 0.0.0.0/32(拒絕的主機)

 

auth users = rsync_backup(支持虛擬用戶)

 

secrets file = /etc/rsync.password(用戶對應的密碼文件)

 

#rsync_config_______________end

 

3.建立密碼文件

 

 echo “rsync_backup:123456” >/etc/rsync.password

 

凡是密碼文件全部600許可權 chmod 600 /etc/rsync.password

 

4.rsync --daemon daemon模式啟動

 

5.rsync --daemon加入/etc/rc.local

 

  echo “/usr/bin/rsync --daemom” >>/etc/rc.local

 

 

 

二、客戶端配置

 

安裝rsyncinotify

 

1.安裝rsyncyum安裝即可)

 

2.建立密碼認證文件

 

echo “123456” >/etc/rsync.password 只需要密碼

 

設置許可權600 chmod 600 /etc/rsync.password

 

3.安裝inotify

 

  cd /home/cai/tools/

 

wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-too

 

 

 

   54  tar xf inotify-tools-3.14.tar.gz

 

   55  ls

 

   56  cd inotify-tools-3.14

 

   57  ./configure --prefix=/usr/local/inotify-tools-3.14

 

   58  make && make install

 

   59  yum install -y gcc

 

   60  ./configure --prefix=/usr/local/inotify-tools-3.14

 

   61  make && make install

 

   62  cd /usr/local/inotify-tools-3.14/

 

   63  ls

 

   64  ln -s /usr/local/inotify-tools-3.14/ /usr/local/inotify

 

 

 

4.腳本都是放在/server/scripts

 

 vim /server/scripts/rsync.sh

 

#!/bin/sh

 

host=192.168.76.129

 

src=/tmp/

 

des=tmp

 

user=rsync_backup

 

/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d%m%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src | \

 

while read files

 

do

 

/usr/bin/rsync -avz --delete $src $user@$host::$des --password-file=/etc/rsync.password

 

echo "${files} was rsynced" >>/var/log/rsyncd.log 2>&1

 

done

 

exit o

 

~           

 

並給予764許可權

 

測試腳本:sh -x /server/scripts/rsync.sh

 

運行腳本:sh /server/scripts/rsync.sh &

 

rsync.sh腳本放入到開機啟動項中:echo “/tmp/rsync.sh” >>/etc/rc.local

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 有些hive安裝文檔提到了hdfs dfs -mkdir ,也就是說hdfs也是可以用的,但在2.8.0中已經不那麼處理了,之所以還可以使用,是為了向下相容. 本文簡要介紹一下有關的命令,以便對hadoop的命令有一個大概的影響,併在想使用的時候能夠知道從哪裡可以獲得幫助。 概述 在$HADOOP_ ...
  • 原文鏈接:http://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/ 什麼是tensorflow model 模型訓練完畢之後,你可能需要在產品上使用它。那麼tens ...
  • 創建資料庫對於表的操作需要先進入庫 use 庫名;-- 創建一個名為 inana_db 的資料庫,資料庫字元編碼指定為 utf8create database inana_db character set utf8;drop database inana_db; -- 刪除 庫名為samp_db的庫 ...
  • 從MySQL5.5版本以後,開始引入並行複製的機制,是MySQL的一個非常重要的特性。 MySQL5.6開始支持以schema為維度的並行複製,即如果binlog row event操作的是不同的schema的對象,在確定沒有DDL和foreign key依賴的情況下,就可以實現並行複製。 社區也有 ...
  • Innodb_buffer_pool_pages_data Innodb buffer pool緩存池中包含數據的頁的數目,包括臟頁。單位是page。 Innodb_buffer_pool_pages_dirty innodb buffer pool緩存池中臟頁的數目。單位是page。 Innodb ...
  • 小時候家裡定了《讀者》的月刊,裡面記錄一個故事:說有有個偏僻的鄉村一日突然來了一個美女,她攜著萬貫家財子女在當地安家落戶,成了當地的鄉紳。她讓她的子女世世代代的保守這個秘密,直到這個秘密不會再對家族帶來災難。她就是陳圓圓。當年吳三桂領清兵入關,衝冠一怒為紅顏,改寫了中國的歷史,自己卻能全身而退的那個 ...
  • 文件命名規則: 1.嚴格區分大小寫; 2.長度不能超過255個字元; 3.不能使用/當文件名 mkdir:創建空目錄 -p:parent,父目錄,逐級創建 -v:verbose,列印詳細信息 命令行展開:mkdir -pv /mnt/test/{x/m,y} 波浪線展開:~USERNAME tree ...
  • 需要把線上的access日誌發送到另一個程式接收 開始想著用python實現,雖然python也有實現類似tail F的方式,但太麻煩,而且效率也有折扣 偶然發現了shell可以實現網路client,並且只用幾行代碼就可以實現 先上代碼: 超級簡單,實際處理的邏輯的代碼就2行以下是代碼說明: 第一行 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...