原創:100 台規模集群存儲系統搭建及數據實時備份

来源:http://www.cnblogs.com/dsab/archive/2017/09/05/7481744.html
-Advertisement-
Play Games

伺服器說明 外網 IP(NAT) 內網 IP(NAT) 主機名apache web 伺服器 10.0.0.7/24 172.16.1.7/24 web02nginx web 伺服器 10.0.0.8/24 172.16.1.8/24 web01NFS 存儲伺服器 10.0.0.31/24 172.1 ...


伺服器說明 外網 IP(NAT) 內網 IP(NAT) 主機名
apache web 伺服器 10.0.0.7/24 172.16.1.7/24 web02
nginx web 伺服器 10.0.0.8/24 172.16.1.8/24 web01
NFS 存儲伺服器 10.0.0.31/24 172.16.1.31/24 nfs01
rsync 備份伺服器 10.0.0.41/24 172.16.1.41/24 backup

要求:

搭建網站集群後端 NFS 共用存儲搭建及優化解決方案
1、配置 NFS 服務:
要求:
1)在 NFS 服務端 nfs01 上共用/data 目錄,允許從 NFS 客戶端 web01、web02 上分別掛載共
享目錄。
2)當在 NFS 客戶端 web01 上的掛載點/data 寫入數據時,在 NFS 客戶端 web02 上也可以刪
除或修改。

(三)搭建網站集群全網備份伺服器 backup
要求:在 backup 伺服器上配置 Rsync 數據同步服務,從 nfs01 伺服器上可以推送數
據到 backup 伺服器的/backup 目錄。 本
具體要求:backup 伺服器的備份目錄必須為/backup。
(四)解決網站集群後端 NFS 共用存儲單點實現實時數據同步
1、實時數據同步要求:
當用戶通過任意台 web 伺服器將數據寫入到 NFS 伺服器 nfs01 時,同時複製到備份伺服器
backup。

 

NFS伺服器 

第一個歷程碑:檢查NFS RPC服務軟體有沒有安裝

rpm -qa|grep nfs

rpm -qa|grep rpc

說明:預設centos系統沒有安裝nfs與rpc服務軟體

第二個歷程碑:進行yum安裝nfs與rpc服務軟體

yum install -y nfs-utils rpcbind

# yum install -y nfs-utils rpcbind

第三個裡程碑:進行NFS配置文件編寫

NFS服務配置文件

cat >>/etc/exports<<EOF          

/data  172.16.1.0/24(rw,sync)

EOF

第四個歷程碑:創建共用目錄

mkdir -p /data

chown -R nfsnobody.nfsnobody /data

第五個歷程碑:啟動服務

/etc/init.d/rpcbind start

查看NFS服務註冊信息

# /usr/sbin/rpcinfo

# rpcinfo -p localhost

設置開機自啟動

chkconfig rpcbind on

chkconfig nfs on

查看rpcbind開機自啟序號

head -10 /etc/init.d/rpcbind

chkconfig: 2345 13 87

查看nfs開機自啟序號

# head -10 /etc/init.d/nfs

chkconfig: - 30 60

第六個歷程碑:檢查NFS服務配置,以及本地測試掛載

# showmount -e

# df -h

# cd /mnt

# echo "momoda" >oldoy.txt

# ll

total 4

-rw-r--r-- 1 nfsnobody nfsnobody 7 Aug 31 10:57 oldoy.txt

# cd /data

# cat oldboy.txt

momoda

 

web伺服器所做的 

第一個歷程碑:檢查NFS RPC服務軟體有沒有安裝

rpm -qa|grep nfs

rpm -qa|grep rpc

說明:預設centos系統沒有安裝nfs與rpc服務軟體

第二個歷程碑:進行yum安裝nfs與rpc服務軟體

yum install -y nfs-utils rpcbind

第三個歷程碑:檢測是否存在共用目錄,進行共用目錄掛載

#showmount -e 172.16.1.31

mount -t nfs 172.16.1.31:/data /mnt

df -h

 

rsync伺服器

 

 

第一個裡程碑:查看有沒有這個軟體

# rpm -qa rsync

第二個裡程碑:安裝rsync軟體

#yum install -y rsync

第三個歷程碑:編寫配置文件(編寫好配置文件,後續操作步驟可以按照配置文件進行)

#cat >>/etc/rsyncd.conf<<EOF

#created by HQ at 2017

##rsyncd.conf start##

 

uid = rsync

gid = rsync

use chroot = no

max connections = 200

timeout = 300

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = "backup dir by oldboy"

path = /backup

EOF

 

第四個歷程碑:創建備份目錄的管理用戶

useradd -s /sbin/nologin -M rsync

第五個歷程碑:創建安全認證文件

echo "rsync_backup:oldboy123" >/etc/rsync.password

chmod 600 /etc/rsync.password

第六個歷程碑:創建備份目錄

mkdir -p /backup

chown -R rsync.rsync /backup

第七個歷程碑:啟動rsync服務

rsync --daemon

 

 

 

NFS伺服器

2.5.3 客戶端部署

第一個裡程碑:查看有沒有這個軟體

rpm -qa rsync

第二個裡程碑:安裝rsync軟體

yum install -y rsync

第三個裡程碑:創建安全認證文件

echo "oldboy123" >/etc/rsync.password

chmod 600 /etc/rsync.password

第四 測試

 rsync -avz /etc [email protected]::backup

 

inotify伺服器:

部署安裝inotify-tools軟體

yum install -y inotify-tools

rpm -ql inotify-tools

 

第三個裡程碑:編寫inotify+rsync結合腳本

[root@nfs01 server]# cd /server/scripts

[root@nfs01 scripts]# vim tongbu.sh

#!/bin/bash

###########

 

inotifywait -mrq /data  --format '%w%f'  -e create,delete,close_write,moved_to|\

while read line

do

    rsync -az --delete /data/ [email protected]::backup --password-file=/etc/rsync.password

done

 sh tongbu.sh

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 資料庫 一個mongodb中可以建立多個資料庫。 MongoDB的預設資料庫為"db",該資料庫存儲在data目錄中。 MongoDB的單個實例可以容納多個獨立的資料庫,每一個都有自己的集合和許可權,不同的資料庫也放置在不同的文件中。 "show dbs" 命令可以顯示所有數據的列表。 執行 "db" ...
  • 程式以《集體智慧編程》第四章 “nn.py" 為原型和框架,可以建立多層隱藏層的感知器神經網路,並利用反向傳播法進行權值的修正。但該網路不能用於預測。 ...
  • 前段時間安裝好的redis,今天用腳本安裝的時候突然出現版本異常的問題,所以更新一篇為大家提供參考 本次安裝在CentOS6.5,採用的redis-3.2.10,最新的redis-4.0.1安裝同樣適用,不過由於4.0.1版本的redis改動較大,大家自己選擇即可。, 1.基礎環境配置,上傳安裝包 ...
  • AWS搭建ss(shadow socks) 如果你符合以下條件,那麼繼續看還是有點幫助的: 想搞個伺服器(包括windows Linux)(免費) 想科學上網(也免費) 之前也從網上搜過本文內容,但手殘覺得搞不來 那麼,本文從0基礎,給你一大堆步驟截圖,讓你完成以上目的。O(∩_∩)O 順利的話,新 ...
  • 該篇文章轉載於:http://www.cnblogs.com/ZhangShuo/articles/1829589.html linux的echo命令, 在shell編程中極為常用, 在終端下列印變數value的時候也是常常用到的, 因此有必要瞭解下echo的用法 echo命令的功能是在顯示器上顯示 ...
  • 該文章轉載於此:http://blog.csdn.net/u010780613/article/details/51491237 問題描述: 在使用Ubuntu系統的時候,遇到這樣的一個問題:我使用普通用戶登錄系統,然後執行sudo echo "This is testPage." >/usr/lo ...
  • 原因: 當我們通過request獲取客戶端IP時,自身伺服器通常會為了保護信息或者負載均衡的目的,對自身伺服器做反向代理。此時如果我們通過request.getRemoteAddr();可能獲取到的是自身代理伺服器的IP,而無法達到獲取用戶請求ip的目的。 解決辦法: 以下整理了各個代理伺服器自己開 ...
  • 原文發表於cu:2016-06-14 Zabbix觸發器(trigger)達到閥值後會有動作(action)執行:發送告警信息或執行遠程命令。 本文主要配置驗證zabbix執行遠程命令。 一.環境 Server:基於CentOS-7-x86_64-1511; Zabbix:zabbix-3.0.1s ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...