一、zookeeper概要、背景及作用 zookeeper產生背景: 項目從單體到分散式轉變之後,將會產生多個節點之間協同的問題。如: 1. 每天的定時任務由誰哪個節點來執行? 2. RPC調用時的服務發現? 3. 如何保證併發請求的冪等 4. .... 這些問題可以統一歸納為多節點協調問題,如果靠 ...
一、zookeeper概要、背景及作用
zookeeper產生背景:
項目從單體到分散式轉變之後,將會產生多個節點之間協同的問題。如:
- 每天的定時任務由誰哪個節點來執行?
- RPC調用時的服務發現?
- 如何保證併發請求的冪等
- ....
這些問題可以統一歸納為多節點協調問題,如果靠節點自身進行協調這是非常不可靠的,性能上也不可取。必須由一個獨立的服務做協調工作,它必須可靠,而且保證性能。
zookeeper概要:
ZooKeeper是用於分散式應用程式的協調服務。它公開了一組簡單的API,分散式應用程式可以基於這些API用於同步,節點狀態、配置等信息、服務註冊等信息。其由JAVA編寫,支持JAVA 和C兩種語言的客戶端。
znode 節點
zookeeper 中數據基本單元叫節點,節點之下可包含子節點,最後以樹級方式程現。每個節點擁有唯一的路徑path。客戶端基於PATH上傳節點數據,zookeeper 收到後會實時通知對該路徑進行監聽的客戶端。
二、部署與常規配置
zookeeper 基於JAVA開發,下載後只要有對應JVM環境即可運行。其預設的埠號是2181運行前得保證其不衝突。
版本說明:
2019年5月20日發行的3.5.5是3.5分支的第一個穩定版本。此版本被認為是3.4穩定分支的後續版本,可以用於生產。基於3.4它包含以下新功能
- 動態重新配置
- 本地會議
- 新節點類型:容器,TTL
- 原子廣播協議的SSL支持
- 刪除觀察者的能力
- 多線程提交處理器
- 升級到Netty 4.1
- Maven構建
另請註意:建議的最低JDK版本為1.8
文件說明:
- apache-zookeeper-xxx-tar.gz 代表源代碼
- apache-zookeeper-xxx-bin.tar.gz 運行版本
下載地址:https://zookeeper.apache.org/releases.html#download
具體部署流程:
#下載
wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache-zookeeper-3.5.5-bin.tar.gz
#解壓
tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz
#拷貝預設配置
cd {zookeeper_home}/conf
cp zoo_sample.cfg zoo.cfg
#啟動
{zookeeper_home}/bin/zkServer.sh
常規配置文件說明:
# zookeeper時間配置中的基本單位 (毫秒)
tickTime=2000
# 允許follower初始化連接到leader最大時長,它表示tickTime時間倍數 即:initLimit*tickTime
initLimit=10
# 允許follower與leader數據同步最大時長,它表示tickTime時間倍數
syncLimit=5
#zookeper 數據存儲目錄
dataDir=/tmp/zookeeper
#對客戶端提供的埠號
clientPort=2181
#單個客戶端與zookeeper最大併發連接數
maxClientCnxns=60
# 保存的數據快照數量,之外的將會被清除
autopurge.snapRetainCount=3
#自動觸發清除任務時間間隔,小時為單位。預設為0,表示不自動清除。
autopurge.purgeInterval=1
客戶端命令:
基本命令列表
close
關閉當前會話
connect host:port
重新連接指定Zookeeper服務
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
創建節點
delete [-v version] path
刪除節點,(不能存在子節點)
deleteall path
刪除路徑及所有子節點
setquota -n|-b val path
設置節點限額 -n 子節點數 -b 位元組數
listquota path
查看節點限額
delquota [-n|-b] path
刪除節點限額
get [-s] [-w] path
查看節點數據 -s 包含節點狀態 -w 添加監聽
getAcl [-s] path
ls [-s] [-w] [-R] path
列出子節點 -s狀態 -R 遞歸查看所有子節點 -w 添加監聽
printwatches on|off
是否列印監聽事件
quit
退出客戶端
history
查看執行的歷史記錄
redo cmdno
重覆 執行命令,history 中命令編號確定
removewatches path [-c|-d|-a] [-l]
刪除指定監聽
set [-s] [-v version] path data
設置值
setAcl [-s] [-v version] [-R] path acl
為節點設置ACL許可權
stat [-w] path
查看節點狀態 -w 添加監聽
sync path
強制同步節點
node數據的增刪改查
# 列出子節點
ls /
#創建節點
create /luban "luban is good man"
# 查看節點
get /luban
# 創建子節點
create /luban/sex "man"
# 刪除節點
delete /luban/sex
# 刪除所有節點 包括子節點
deleteall /luban
[zk: 127.0.0.1:2181(CONNECTED) 20] ls /
[admin, brokers, cluster, config, consumers, controller, controller_epoch, isr_change_notification, latest_producer_id_block, log_dir_event_notification, tmp0000000095, zookeeper]
[zk: 127.0.0.1:2181(CONNECTED) 21] create /xiaoqiang "xiaoqiang is a good man"
Created /xiaoqiang
[zk: 127.0.0.1:2181(CONNECTED) 22] get /xiaoqiang
xiaoqiang is a good man
[zk: 127.0.0.1:2181(CONNECTED) 23] create /xiaoqiang/age 17
Created /xiaoqiang/age
[zk: 127.0.0.1:2181(CONNECTED) 24] delete /xiaoqiang/age
[zk: 127.0.0.1:2181(CONNECTED) 25] deleteall /xiaoqiang
三、Zookeeper節點介紹
zookeeper 中節點叫znode存儲結構上跟文件系統類似,以樹級結構進行存儲。不同之外在於znode沒有目錄的概念,不能執行類似cd之類的命令。znode結構包含如下:
- path:唯一路徑
- childNode:子節點
- stat:狀態屬性
type:節點類型
節點類型
類型 描述 PERSISTENT 持久節點 PERSISTENT_SEQUENTIAL 持久序號節點 EPHEMERAL 臨時節點(不可在擁有子節點) EPHEMERAL_SEQUENTIAL 臨時序號節點(不可在擁有子節點)
- PERSISTENT(持久節點)
持久化保存的節點,也是預設創建的
#預設創建的就是持久節點
create /test
- PERSISTENT_SEQUENTIAL(持久序號節點)
創建時zookeeper 會在路徑上加上序號作為尾碼,。非常適合用於分散式鎖、分散式選舉等場景。創建時添加 -s 參數即可。
#創建序號節點
create -s /test
#返回創建的實際路徑
Created /test0000000001
create -s /test
#返回創建的實際路徑2
Created /test0000000002
- EPHEMERAL(臨時節點)
臨時節點會在客戶端會話斷開後自動刪除。適用於心跳,服務發現等場景。創建時添加參數-e 即可。
#創建臨時節點, 斷開會話 在連接將會自動刪除
create -e /temp
- EPHEMERAL_SEQUENTIAL(臨時序號節點)
與持久序號節點類似,不同之處在於EPHEMERAL_SEQUENTIAL是臨時的會在會話斷開後刪除。創建時添加 -e -s
create -e -s /temp/seq
節點屬性
# 查看節點屬性
stat /luban
其屬性說明如下表:
#創建節點的事物ID
cZxid = 0x385
#創建時間
ctime = Tue Sep 24 17:26:28 CST 2019
#修改節點的事物ID
mZxid = 0x385
#最後修改時間
mtime = Tue Sep 24 17:26:28 CST 2019
# 子節點變更的事物ID
pZxid = 0x385
#這表示對此znode的子節點進行的更改次數(不包括子節點)
cversion = 0
# 數據版本,變更次數
dataVersion = 0
#許可權版本,變更次數
aclVersion = 0
#臨時節點所屬會話ID
ephemeralOwner = 0x0
#數據長度
dataLength = 17
#子節點數(不包括子子節點)
numChildren = 0
節點的監聽:
客戶添加 -w 參數可實時監聽節點與子節點的變化,並且實時收到通知。非常適用保障分散式情況下的數據一至性。其使用方式如下:
| 命令 | 描述 |
|:----|:----|
| ls -w path | 監聽子節點的變化(增,刪) |
| get -w path | 監聽節點數據的變化 |
| stat -w path | 監聽節點屬性的變化 |
| printwatches on|off | 觸發監聽後,是否列印監聽事件(預設on) |
acl許可權設置
ACL全稱為Access Control List(訪問控制列表),用於控制資源的訪問許可權。ZooKeeper使用ACL來控制對其znode的防問。基於scheme