LVS的負載均衡 LVS負載均衡機制 lvs nat 模式 lvs tun 模式 LVS DR模式 lvs fullnat 模式 負載均衡實現 ...
LVS的負載均衡
1)負載均衡技術有很多實現方案:
有基於DNS功能變數名稱輪流解析的方法、有基於客戶端調度訪問的方法、有基於應用層系統負載的調度方法,還有基於IP地址的調度方法。
這些負載調度演算法中,執行效率最高的是IP負載均衡技術。
2)LVS的IP負載均衡技術是通過IPVS模塊來實現的,IPVS是LVS集群系統的核心軟體,它的主要作用是:
安裝在Director Server上,同時在Director Server上虛擬出一個IP地址,用戶必須通過這個虛擬的IP地址訪問服務。
這個虛擬IP一般稱為LVS的VIP,即Virtual IP。
訪問的請求首先經過VIP到達負載調度器,然後由負載調度器從Real Server列表中選取一個服務節點響應用戶的請求。
3)當用戶的請求到達負載調度器後,調度器將請求發送到提供服務的Real Server節點,Real Server節點返回數據給用戶,這是IPVS實現的重點技術。
4)IPVS實現負載均衡機制有三種,分別是NAT、TUN和DR。
LVS負載均衡機制
LVS的工作模式總結
VS/NAT VS/TUN VS/DR vs/fullnat
Server any Tunneling Non-arp device
server network private LAN/WAN LAN
server number low (10~20) High (100) High (100)
server gateway load balancer own router Own router
lvs-nat 與lvs-fullnat :請求和響應報文都經由Director
lvs-nat :RIP 的網關要指向DIP
lvs-fullnat :RIP 和DIP 未必在同一IP 網路,但要能通信
lvs-dr 與lvs-tun :請求報文要經由Director,但響應報文由RS直接發往Client
lvs-dr :通過封裝新的MAC 首部實現,通過MAC 網路轉發
lvs-tun :通過在原IP 報文外封裝新IP頭實現轉發,支持遠距離通信
lvs-nat :修改請求報文的目標IP, 多目標IP的DNAT(目標地址轉換)
lvs-dr :操縱封裝新的MAC地址
lvs-tun :在原請求IP報文之外新加一個IP首部
lvs-fullnat :修改請求報文的源和目標IP
lvs-nat 模式
修改請求報文的目標IP, 多目標IP的DNAT
VS/NAT: 即(Virtual Server via Network Address Translation)
也就是網路地址翻譯技術實現虛擬伺服器,當用戶請求到達調度器時,調度器將請求報文的目標地址(即虛擬IP地址)改寫成選定的Real Server地址,同時報文的目標埠也改成選定的Real Server的相應埠,最後將報文請求發送到選定的Real Server。
在伺服器端得到數據後,Real Server返回數據給用戶時,需要再次經過負載調度器將報文的源地址和源埠改成虛擬IP地址和相應埠,然後把數據發送給用戶,完成整個負載調度過程。
可以看出,在NAT方式下,用戶請求和響應報文都必須經過Director Server地址重寫,當用戶請求越來越多時,調度器的處理能力將稱為瓶頸。
lvs-nat註意:
本質是多目標IP的DNAT ,通過將請求報文中的目標地址和目標埠修改為某挑出的RS的RIP和PORT實現轉發
1)RIP 和DIP可以在也可以不在同一個IP網路,且應該使用私網地址,RS的網關要指向DIP
2)請求報文和響應報文都必須經由Director 轉發,Director易於成為系統瓶頸
3)支持埠映射,可修改請求報文的目標PORT
4)VS 必須是Linux系統,RS可以是任意OS
5)nat工作模式的Director有兩個ip是vip和dip,vip用戶客戶端通信提供服務,dip用於真實伺服器通信。
lvs-tun 模式
VS/TUN:即(Virtual Server via IP Tunneling)
也就是IP隧道技術實現虛擬伺服器,它的連接調度和管理與VS/NAT方式一樣,只是它的報文轉發方法不同。
VS/TUN方式中,調度器採用IP隧道技術將用戶請求轉發到某個Real Server,而這個Real Server將直接響應用戶的請求,不再經過前端調度器。
此外,對Real Server的地域位置沒有要求,可以和Director Server位於同一個網段,也可以是獨立的一個網路。
因此,在TUN方式中,調度器將只處理用戶的報文請求,集群系統的吞吐量大大提高。
lvs-tun註意:
轉發方式:
不修改請求報文的IP首部(源IP為CIP,目標IP為VIP),而在源IP報文之外再封裝一個IP首部(源IP是DIP,目標IP是RIP),將報文發往挑選出的目標RS ,RS直接響應給客戶端(源IP是VIP ,目標IP是CIP)
1)DIP, VIP, RIP 都應該是公網地址
2)RS的網關不能也不可能指向DIP
3)請求報文要經由Director ,但響應不能經由Director
4)不支持埠映射
5)RS的OS須支持隧道功能
LVS-DR模式
操縱封裝新的MAC地址
VS/DR:即(Virtual Server via Direct Routing)
也就是用直接路由技術實現虛擬伺服器,它的連接調度和管理與VS/NAT和VS/TUN中的一樣,但它的報文轉發方法又有不同。
VS/DR通過改寫請求報文的MAC地址,將請求發送到Real Server,而Real Server將響應直接返回給客戶,免去了VS/TUN中的IP隧道開銷。
這種方式是三種負載調度機制中性能最高最好的,但是必須要求Director Server與Real Server都有一塊網卡連在同一物理網段上。
Direct Routing,直接路由,LVS 預設模式,應用最廣泛, 通過為請求報文重新封裝一個MAC首部進行轉發,源MAC是DIP所在的介面的MAC ,目標MAC是某挑選出的RS 的RIP所在介面的MAC地址,源IP/PORT和目標IP/PORT均保持不變。
lvs-dr註意:
Director和各RS都配置有VIP
1)確保前端路由器將目標IP 為VIP 的請求報文發往Director
在前端網關做靜態綁定VIP 和Director的MAC 地址
在RS上使用arptables工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
在RS上修改內核參數以限制arp通告及應答級別
arp_announce
arp_ignore
2)RS的RIP可以使用私網地址,也可以是公網地址,RIP與DIP在同一IP網路,RIP的網關不能指向DIP,以確保響應報文不會經由Director
3)RS和Director要在同一個物理網路
4)請求報文要經由Director,但響應報文不經由Director,而由RS直接發往Client
5)不支持埠映射(埠不能修敗)
6)RS可使用大多數OS
lvs-fullnat 模式
lvs-fullnat :
通過同時修改請求報文的源IP地址和目標IP地址進行轉發
CIP --> DIP
VIP --> RIP
1)VIP 是公網地址,RIP 和DIP 是私網地址,且通常不在同一IP 網路,因此,RIP 的網關一般不會指向DIP
2)RS收到的請求報文源地址是DIP,因此,只需響應給DIP ,但Director還要將其發往Client
3)請求和響應報文都經由Director
4)支持埠映射;
負載均衡實現
負載均衡集群設計時要註意的問題
(1)是否需要會話保持
(2)是否需要共用存儲
共用存儲:NAS,SAN,DS (分散式存儲)
數據同步:
lvs-nat:
設計要點:
(1) RIP 與DIP 在同一IP 網路, RIP 的網關要指向DIP
(2) 支持埠映射
(3) Director要打開核心轉發功能
lvs-dr:
dr模型中,各主機上均需要配置VIP,解決地址衝突的方式有三種:
(1)在前端網關做靜態綁定
(2)在各RS 使用arptables
(3)在各RS 修改內核參數,來限制arp響應和通告的級別
三種方法中只有第三種方法修改RS的內核參數最實用
限制響應級別:arp_ignore
0:預設值,表示可使用本地任意介面上配置的任意地址進行響應
1: 僅在請求的目標IP 配置在本地主機的接收到請求報文的介面上時,才給予響應
限制通告級別:arp_announce
0 :預設值,把本機所有介面的所有信息向每個介面的網路進行通告
1 :儘量避免將介面信息向非直接連接網路進行通告
2 :必須避免將介面信息向非本網路進行通告
實現LVS-DR的配置腳本
RS 的預配置腳本
#!/bin/bash
vip=192.168.0.100
mask='255.255.255.255‘
dev=lo:1
case $1 in
start)
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
ifconfig $dev $vip netmask $mask broadcast $vip up
route add -host $vip dev $dev
;;
stop)
ifconfig $dev down
echo 0 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_ignore
echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce
echo 0 > /proc/sys/net/ipv4/conf/lo/arp_announce
;;
*)
echo "Usage: $(basename $0) start|stop"
exit 1
;;
esac
VS的配置腳本
#!/bin/bash
vip='192.168.0.100'
iface='eth0:1'
mask='255.255.255.255'
port='80'
rs1='192.168.0.101'
rs2='192.168.0.102'
scheduler='wrr'
type='-g'
case $1 in
start)
ifconfig $iface $vip netmask $mask broadcast $vip up
iptables -F
ipvsadm -A -t ${vip}:${port} -s $scheduler
ipvsadm -a -t ${vip}:${port} -r ${rs1} $type -w 1
ipvsadm -a -t ${vip}:${port} -r ${rs2} $type -w 1
;;
stop)
ipvsadm -C
ifconfig $iface down
;;
*)
echo "Usage $(basename $0) start|stop“;exit 1
;;
esac