第1章關於Sersync 1.1 什麼是實時同步什麼是實時同步實時同步是一種只要當前目錄觸發事件，就馬上同步到遠程的目錄什麼是實時同步實時同步是一種只要當前目錄觸發事件，就馬上同步到遠程的目錄 1.2 為什麼使用實時同步保證數據的連續性（定時任務是以分鐘為單位的）減少人力維護成本保證 ...

第1章關於Sersync

1.1 什麼是實時同步

什麼是實時同步

實時同步是一種只要當前目錄觸發事件，就馬上同步到遠程的目錄

1.2 為什麼使用實時同步

保證數據的連續性（定時任務是以分鐘為單位的）

減少人力維護成本

1.3 實時同步工具

inotify+RSYNC（x）

sersync+RSYNC（√）

lsyncd

Inotify是一個通知介面，用來監控文件系統的各種變化，如果文件存取，刪除，移動。可以非常方便地實現文件異動告警，增量備份，並針對目錄或文件的變化及時作出響應。rsync+inotify可以實觸髮式實時同步增量備份

sersync是國人基於rsync+inotify-tools開發的工具，不僅保留了優點同時還強化了實時監控，文件過濾，簡化配置等功能，幫助用戶提高運行效率，節省時間和網路資源。

第2章 inotify與 sersync對比

2.1 Inotify實時併發：

結論：經過測試，每秒200文件併發，數據同步幾乎無延遲（小於1秒）

2.1.1 inotify 優點：

監控文件系統事件變化，通過同步工具實現實時數據同步。

2.1.2 inotify 缺點：

併發如果大於200個文件（10-100k），同步就會有延遲

監控到事件後，調用rsync同步是單進程的，而sersync為多進程同步。

2.2 serysync實時同步

2.2.1 serysync優點

serysync功能多：（inotify+rsync命令）

1）支持通過配置文件管理

2）真正的守護進程socket

3）可以對失敗文件定時重傳（定時任務功能）

4）第三方的HTTP介面（例如：更新cdn緩存）

5）預設多進程rsync同步

2.3 高併發數據實時同步方案小結

1）inotify（sersync）+ rsync，是文件級別的。

2）drbd文件系統級別，文件系統級別，基於block塊同步，缺點：備節點數據不可用

3）第三方軟體的同步功能：mysql同步（主從複製），oracle，mongodb

4）程式雙寫，直接寫兩台伺服器。

5）利用產品業務邏輯解決（讀寫分離，備份讀不到，讀主）

第3章配置Sersync

實現web伺服器上傳視頻文件，實則是寫入NFS存儲，當NFS存在新的數據則會實時的複製到備份伺服器

角色	外網IP(NAT)	內網IP(LAN)	安裝工具
web01	eth0:10.0.0.7	eth1:172.16.1.7
nfs	eth0:10.0.0.31	eth1:172.16.1.31	rsync+inotify+sersync
backup	eth0:10.0.0.41	eth1:172.16.1.41	rsync-server

3.1 配置backup伺服器

3.1.1 安裝rsync

[root@backup ~]# yum install rsync -y

3.1.2 配置rsync

[root@backup ~]# cat /etc/rsyncd.conf

uid = rsync

gid = rsync

port = 873

fake super = yes

use chroot = no

max connections = 200

timeout = 600

ignore errors

read only = false

list = true

secrets file = /etc/rsync.password

auth users = rsync_backup

log file = /var/log/rsyncd.log

#####################################

[backup]

path = /backup

 

[data]

path = /data

3.1.3 創建數據目錄

兩個模塊所以創建兩個目錄

[root@backup ~]# mkdir /backup

[root@backup ~]# mkdir /data

3.1.4 創建用戶並授權

創建一個虛擬用戶rsync

將backup目錄所屬用戶和組修改為rsync

[root@backup ~]# useradd -M -s /sbin/nologin rsync

[root@backup ~]# chown -R rsync.rsync /backup/ /data/

[root@backup ~]# ll -d /backup/ /data/

drwxr-xr-x 7 rsync rsync 256 9月   7 08:52 /backup/

drwxr-xr-x 2 rsync rsync   6 9月   7 11:44 /data/

3.1.5 創建鏈接的虛擬用戶

[root@backup ~]# echo "rsync_backup:1" /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

3.1.6 啟動rsyncd

[root@backup ~]# systemctl restart rsyncd

3.2 配置nfs伺服器

3.2.1 安裝nfs

[root@nfs ~]# yum install nfs-utils -y

3.2.2 配置nfs

[root@nfs ~]# cat /etc/exports

/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)

3.2.3 配置nfs依賴環境

[root@nfs ~]# groupadd -g 666 www

[root@nfs ~]# useradd -u 666 -g 666 www

[root@nfs ~]# mkdir /data

[root@nfs ~]# chown -R www.www /data

3.2.4 啟動nfs

[root@nfs ~]# systemctl enable rpcbind nfs-utils

[root@nfs ~]# systemctl start rpcbind nfs-server

3.3 配置web伺服器

3.3.1 安裝工具包

[root@web01 ~]# yum install nfs-utils -y

[root@web01 ~]# systemctl start rpcbind

3.3.2 創建用於掛載的目錄

[root@web01 ~]# mkdir /data

3.3.3 掛載nfs的data目錄

[root@web01 ~]# showmount -e 172.16.1.31

Export list for 172.16.1.31:

/data 172.16.1.0/24

[root@web01 ~]# mount -t nfs 172.16.1.31:/data /data

3.4 檢查以上操作

通過windows上傳一個視頻或圖片至web伺服器的/data目錄

驗證內容是否存在nfs伺服器

[root@nfs ~]# ls /data/

1111  cad88c2e57f44e93b664a48a98a47108_th.jpg  tes1  test

3.5 配置實時同步

為了防止nfs down機後丟失數據，希望nfs共用的data目錄一旦發生變化，則實時的同步至backup伺服器

操作如下：

在nfs伺服器的操作

3.5.1 安裝inotify-tools

[root@nfs ~]# yum install inotify-tools rsync -y

3.5.2 安裝sersync

[root@nfs ~]# wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz

3.5.3 解壓並重命名

[root@nfs ~]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz

[root@nfs ~]# mv GNU-Linux-x86/ /usr/local/sersync

3.5.4 配置sersync配置文件

以下為要修改的內容

[root@nfs01 sersync]# vim confxml.xml

  5     <fileSystem xfs="true"/>  <!-- 文件系統 -->

  6     <filter start="false">  <!-- 排除不想同步的文件-->

  7         <exclude expression="(.*)\.svn"></exclude>

  8         <exclude expression="(.*)\.gz"></exclude>

  9         <exclude expression="^info/*"></exclude>

 10         <exclude expression="^static/*"></exclude>

 11     </filter>

 

 12     <inotify> <!-- 監控的事件類型 -->

 13         <delete start="true"/>

 14         <createFolder start="true"/>

 15         <createFile start="true"/>

 16         <closeWrite start="true"/>

 17         <moveFrom start="true"/>

 18         <moveTo start="true"/>

 19         <attrib start="false"/>

 20         <modify start="false"/>

 21     </inotify>

 

 23     <sersync>

 24         <localpath watch="/data"> <!-- 監控的目錄 -->

 25             <remote ip="172.16.1.41" name="data"/>  <!-- backup的IP以及模塊 -->

 28         </localpath>

 

 29         <rsync> <!-- rsync的選項 -->

 30             <commonParams params="-az"/>

 31             <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.pass"/>

 32             <userDefinedPort start="false" port="874"/><!-- port=874 -->

 33             <timeout start="true" time="100"/><!-- timeout=100 -->

 34             <ssh start="false"/>

 35         </rsync>

 

            <!-- 每60分鐘執行一次同步-->

  36         <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def

    ault every 60mins execute once-->

View Code

3.5.5 創建密碼文件

[root@nfs01 sersync]# echo "1" > /etc/rsync.pass

[root@nfs ~]# chmod 600 /etc/rsync.pass

3.5.6 啟動sersync

啟動sersync

[root@nfs ~]# /usr/local/sersync/sersync2  -h

set the system param

execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches

execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events

parse the command param

_______________________________________________________

參數-d:啟用守護進程模式

參數-r:在監控前，將監控目錄與遠程主機用rsync命令推送一遍

參數-n: 指定開啟守護線程的數量，預設為10個

參數-o:指定配置文件，預設使用confxml.xml文件

參數-m:單獨啟用其他模塊，使用 -m refreshCDN 開啟刷新CDN模塊

參數-m:單獨啟用其他模塊，使用 -m socket 開啟socket模塊

參數-m:單獨啟用其他模塊，使用 -m http 開啟http模塊

不加-m參數，則預設執行同步程式

________________________________________________________________

[root@nfs ~]# /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml

註意：如果發生錯誤，請手動執行命令檢查推送是否正常

[root@nfs ~]# cd /data && rsync -avz -R --delete ./  --timeout=100 [email protected]::data --password-file=/etc/rsync.pass

View Code

3.6 nfs伺服器宕機換掛載點

如果nfs現在down機了，希望將web客戶端掛載至backup伺服器上？怎麼實現？

nfs和backup兩台伺服器應該保持一樣（nfs配置。nfs共用的目錄。nfs的許可權）

[root@backup ~]# yum install nfs-utils -y

[root@backup ~]# rsync -avz [email protected]:/etc/exports /etc/

[root@backup ~]# groupadd -g 666 www

[root@backup ~]# useradd -u666 -g666 www

啟動nfs

[root@backup ~]# systemctl start rpcbind

[root@backup ~]# systemctl start nfs-server

修改rsync的許可權vim /etc/rsyncd.conf

uid = www

gid = www

修改授權

[root@backup ~]# chown -R www.www /data/ /backup/

重啟rsync

[root@backup ~]# systemctl restart rsyncd

模擬nfs故障（掛起虛擬機）

web強制卸載172.16.1.31:/data      

[root@web01 ~]# umount -lf /data

web嘗試掛載172.16.1.41:/data

[root@web01 ~]# mount -t nfs 172.16.1.41:/data /data/

第4章 serync擴展補充

4.1 下載serync的方法

serync使用yum是無法下載的 serync是一個下載解壓即用的軟體包

sersync項目地址：  https://github.com/wsgzao/sersync

找到下載的地方下載後直接上傳到linux伺服器里解壓後即用

直接複製下載地址在linux內下載

[root@nfs ~]# wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz

4.2 sersync配置文件詳解

confxml.xml文件的內容

<?xml version="1.0" encoding="ISO-8859-1"?>

<head version="2.5">

    #hostip本機的Ip地址，後臺使用那個埠來進行實時備份

    <host hostip="localhost" port="8008"></host>

    #是否開啟debug 調試信息

    <debug start="false"/>

    #是否支持xfs文件系統，如果有分區文件系統為xfs的時候，需要開啟這個選項

    <fileSystem xfs="false"/>

    #是否開啟過濾，排除

    <filter start="false">

    #exclude排除這些文件名中包含這些字元的，不推送這些

    <exclude expression="(.*)\.svn"></exclude>

    <exclude expression="(.*)\.gz"></exclude>

    <exclude expression="^info/*"></exclude>

    <exclude expression="^static/*"></exclude>

    </filter>

    #inotify模塊的配置

    <inotify>

    #是否開啟完全同步，源文件裡面有什麼，目標文件裡面就有什麼，特別危險，不開啟

    <delete start="false"/>

    #是否監控目錄，如果不開啟他將不監控這個目錄下的子文件和子目錄的更改，除非有特殊要求，否則必須開啟

    <createFolder start="true"/>

    #創建文件就監控，我們一般把這個設為false，否則太消耗性能

    <createFile start="false"/>

    #文件關閉的時候就推送，這個開啟，新建文件打開這個就會對上面的進行備份了

    <closeWrite start="true"/>

    #mv剪切走

    <moveFrom start="true"/>

    #mv剪切到這個文件裡面

    <moveTo start="true"/>

    #更改文件隱藏屬性

    <attrib start="false"/>

    #監控許可權更改就會推送，一般選擇開啟

    <modify start="true"/>

    </inotify>

 

    <sersync>

    #本地要備份的目錄

    <localpath watch="/backup">

        #遠程rsync的地址，和使用的模塊

        <remote ip="10.0.0.61" name="backup_crond"/>

        <!--<remote ip="192.168.8.39" name="tongbu"/>-->

        <!--<remote ip="192.168.8.40" name="tongbu"/>-->

    </localpath>

    <rsync>

        #rsync推送的使用的參數

        <commonParams params="-az"/>

        #是不是開啟用戶認證，使用的那個用戶，密碼文件什麼，密碼文件許可權必須是600

        <auth start="true" users="cron_backup" passwordfile="/etc/rsync_passwd_cron.conf"/>

        #服務端使用的那個埠，埠地址是什麼

        <userDefinedPort start="false" port="874"/><!-- port=874 -->

        #推送超時時間，超過這個時間就認為推送不成功。

        <timeout start="true" time="300"/><!-- timeout=100 -->

        <ssh start="false"/>

    </rsync>

    <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->

    <crontab start="false" schedule="600"><!--600mins-->

        <crontabfilter start="false">

        <exclude expression="*.php"></exclude>

        <exclude expression="info/*"></exclude>

        </crontabfilter>

    </crontab>

    <plugin start="false" name="command"/>

    </sersync>

 

    <plugin name="command">

    <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->

    <filter start="false">

        <include expression="(.*)\.php"/>

        <include expression="(.*)\.sh"/>

    </filter>

    </plugin>

View Code

Sersync實時同步

第1章 關於Sersync

1.1 什麼是實時同步

1.2 為什麼使用實時同步

1.3 實時同步工具

第2章 inotify與 sersync對比

2.1 Inotify實時併發：

2.1.1 inotify 優點：

2.1.2 inotify 缺點：

2.2 serysync實時同步

2.2.1 serysync優點

2.3 高併發數據實時同步方案小結

第3章 配置Sersync

3.1 配置backup伺服器

3.1.1 安裝rsync

3.1.2 配置rsync

3.1.3 創建數據目錄

3.1.4 創建用戶並授權

3.1.5 創建鏈接的虛擬用戶

3.1.6 啟動rsyncd

3.2 配置nfs伺服器

3.2.1 安裝nfs

3.2.2 配置nfs

3.2.3 配置nfs依賴環境

3.2.4 啟動nfs

3.3 配置web伺服器

3.3.1 安裝工具包

3.3.2 創建用於掛載的目錄

3.3.3 掛載nfs的data目錄

3.4 檢查以上操作

3.5 配置實時同步

3.5.1 安裝inotify-tools

3.5.2 安裝sersync

3.5.3 解壓並重命名

3.5.4 配置sersync配置文件

3.5.5 創建密碼文件

3.5.6 啟動sersync

3.6 nfs伺服器宕機換掛載點

第4章 serync擴展補充

4.1 下載serync的方法

4.2 sersync配置文件詳解

第1章關於Sersync

第3章配置Sersync