1.1 zookeeper（分散式協作服務） ZooKeeper是一個分散式的，開放源碼的分散式應用程式協調服務，是Google的Chubby一個開源的實現，它是集群的管理者，監視著集群中各個節點的狀態根據節點提交的反饋進行下一步合理操作。最終，將簡單易用的介面和性能高效、功能穩定的系統提供給用戶。 ...
1.1 zookeeper（分散式協作服務）
1) ZooKeeper是什麼？
ZooKeeper是一個分散式的，開放源碼的分散式應用程式協調服務，是Google的Chubby一個開源的實現，它是集群的管理者，監視著集群中各個節點的狀態根據節點提交的反饋進行下一步合理操作。最終，將簡單易用的介面和性能高效、功能穩定的系統提供給用戶。
2) ZooKeeper提供了什麼？
1) 文件系統
2) 通知機制
3) Zookeeper文件系統
每個子目錄項如 NameService 都被稱作為znode，和文件系統一樣，我們能夠自由的增加、刪除znode，在一個znode下增加、刪除子znode，唯一的不同在於znode是可以存儲數據的。
有四種類型的znode：
1) persistent-持久化目錄節點：客戶端與zookeeper斷開連接後，該節點依舊存在。
2) persistent_ sequential-持久化順序編號目錄節點： 客戶端與zookeeper斷開連接後，該節點依舊存在，只是Zookeeper給該節點名稱進行順序編號。
3) ephemeral-臨時目錄節點 ：客戶端與zookeeper斷開連接後，該節點被刪除。
4) ephemeral_ sequential -臨時順序編號目錄節點：客戶端與zookeeper斷開連接後，該節點被刪除，只是Zookeeper給該節點名稱進行順序編號。
4) Zookeeper通知機制
客戶端註冊監聽它關心的目錄節點，當目錄節點發生變化（數據改變、被刪除、子目錄節點增加刪除）時，zookeeper會通知客戶端。
5) Zookeeper做了什麼？
6) Zookeeper命名服務
在zookeeper的文件系統里創建一個目錄，即有唯一的path。在我們使用tborg無法確定上游程式的部署機器時即可與下游程式約定好path，通過path即能互相探索發現。
7) Zookeeper的配置同步管理
程式總是需要配置的，如果程式分散部署在多台機器上，要逐個改變配置就變得困難。現在把這些配置全部放到zookeeper上去，保存在 Zookeeper 的某個目錄節點中，然後所有相關應用程式對這個目錄節點進行監聽，一旦配置信息發生變化，每個應用程式就會收到 Zookeeper 的通知，然後從 Zookeeper 獲取新的配置信息應用到系統中就好。
8) Zookeeper集群管理
所謂集群管理無在乎兩點：是否有機器退出和加入、選舉master。
對於第一點，所有機器約定在父目錄GroupMembers下創建臨時目錄節點，然後監聽父目錄節點的子節點變化消息。一旦有機器掛掉，該機器與 zookeeper的連接斷開，其所創建的臨時目錄節點被刪除，所有其他機器都收到通知：某個兄弟目錄被刪除，於是，所有人都知道：它上船了。
新機器加入也是類似，所有機器收到通知：新兄弟目錄加入，highcount又有了，對於第二點，我們稍微改變一下，所有機器創建臨時順序編號目錄節點，每次選取編號最小的機器作為master就好。
1) Zookeeper分散式鎖
有了zookeeper的一致性文件系統，鎖的問題變得容易。鎖服務可以分為兩類，一個是保持獨占，另一個是控制時序。
對於第一類，我們將zookeeper上的一個znode看作是一把鎖，通過createznode的方式來實現。所有客戶端都去創建 /distribute_lock 節點，最終成功創建的那個客戶端也即擁有了這把鎖。用完刪除掉自己創建的distribute_lock 節點就釋放出鎖。
對於第二類， /distribute_lock 已經預先存在，所有客戶端在它下麵創建臨時順序編號目錄節點，和選master一樣，編號最小的獲得鎖，用完刪除，依次方便。
9) Zookeeper隊列管理
兩種類型的隊列：
a. 同步隊列。當一個隊列的成員都聚齊時，這個隊列才可用，否則一直等待所有成員到達。在約定目錄下創建臨時目錄節點，監聽節點數目是否是我們要求的數目。
b. 按照 FIFO 方式進行入隊和出隊操作：和分散式鎖服務中的控制時序場景基本原理一致，入列有編號，出列按編號。
10) 分散式與數據複製
Zookeeper作為一個集群提供一致的數據服務，自然，它要在所有機器間做數據複製。
數據複製的好處：
1、容錯：一個節點出錯，不致於讓整個系統停止工作，別的節點可以接管它的工作；
2、提高系統的擴展能力 ：把負載分佈到多個節點上，或者增加節點來提高系統的負載能力；
3、提高性能：讓客戶端本地訪問就近的節點，提高用戶訪問速度。
從客戶端讀寫訪問的透明度來看，數據複製集群系統分下麵兩種：
1、寫主(WriteMaster) ：對數據的修改提交給指定的節點。讀無此限制，可以讀取任何一個節點。這種情況下客戶端需要對讀與寫進行區別，俗稱讀寫分離；
2、寫任意(Write Any)：對數據的修改可提交給任意的節點，跟讀一樣。這種情況下，客戶端對集群節點的角色與變化透明。
對zookeeper來說，它採用的方式是寫任意。通過增加機器，它的讀吞吐能力和響應能力擴展性非常好，而寫，隨著機器的增多吞吐能力肯定下降（這也是它建立observer的原因），而響應能力則取決於具體實現方式，是延遲複製保持最終一致性，還是立即複製快速響應。
11) Zookeeper角色
ZooKeeper伺服器有三種節點類型：leader（群首），follower（追隨者），observer（觀察者）。
a) Leader
Leader作為整個ZooKeeper集群的主節點，負責響應所有對ZooKeeper狀態變更的請求。它會將每個狀態更新請求進行排序和編號，以便保證整個集群內部消息處理的FIFO（先入先出隊列）。
ZooKeeper的請求類型。對於exists，getData，getChildren等只讀請求，收到該請求的ZooKeeper伺服器將會在本地處理，因為由第一講的ZAB理論可知，每個伺服器看到的名字空間內容都是一致的，無所謂在哪台機器上讀取數據，因此如果ZooKeeper集群的負載是讀多寫少，並且讀請求分佈得均衡的話，效率是很高的。對於create，setData，delete等有寫操作的請求，則需要統一轉發給leader處理，leader需要決定編號、執行操作，這個過程稱為一個事務（transaction）。
事務的執行。ZooKeeper事務和關係型資料庫事務相似之處是都具備原子性，即整個事務（編號+執行）要麼一起成功要麼一起失敗。另外事務還具備冪等性，即對一個事務執行多次，結果永遠都是一致的。但ZooKeeper事務不具備關係型資料庫事務的回滾機制，原因是不需要，因為ZAB協議已經保證消息是嚴格FIFO的，並且只有一個leader實際處理事務。（回憶兩階段提交2PC，之所以需要2PC的原因，歸根結底是有不止一個“主”，必須保證這麼多“主”看到的結果都是一致的）
leader選舉。ZAB中有三種選舉演算法，目前預設的版本是FastLeaderElection，另兩種已經被標記為deprecated。其過程如下：
數據恢復階段。首先，每個ZooKeeper伺服器先讀取當前保存在磁碟的事務數據，從而得知當前自己能看到的最大zxid（由兩部分組成：周期（epoch）和計數器（counter）。
首次發送自己的投票值。在讀取數據之後，每個ZooKeeper伺服器發送自己提議的leader，這個協議中包含了以下幾部分的數據：
1)所選舉leader的id，在初始階段，每台伺服器的這個值都是自己的id
2)伺服器的最大zxid，因為FIFO原則，這個值越大說明該伺服器離主越近
3)邏輯時鐘的值，也就是epoch，每次選舉leader這個值會加1
4)本機在當前選舉過程中的狀態，有以下幾種：looking、following、observing、leading每台伺服器將自己的上兩種數據發送到集群中的其他伺服器，同時也會接收來自其他伺服器的這兩種數據，此時如果該伺服器的狀態是在選舉階段(looking狀態)，那麼首先要判斷邏輯時鐘值，分為以下三種情況：
1) 如果發送過來的邏輯時鐘大於目前的邏輯時鐘，那麼說明這個提議比本機發起的提議更接近最新數據，此時需要更新本機的邏輯時鐘值，同時將之前收集到的來自其他伺服器的提議清空，因為這些數據已經不再有效了。然後判斷是否需要更新當前自己的提議，這裡是根據提議的leader id和保存的最大zxid來進行判斷的，判斷邏輯是：首先看zxid，大者勝出；其次再判斷leader id，大者勝出。然後再將自身最新的提議數據廣播給其他伺服器
2) 發送過來的邏輯時鐘小於本機的邏輯時鐘，說明對方在一個相對較早的選舉進程中，這時只需要將本機的提議發送過去即可
3) 兩邊的邏輯時鐘相同，此時只是調用totalOrderPredicate函數判斷是否需要更新本機的數據，如果更新了再將自己最新的提議廣播出去即可
以上三種情況處理完畢之後，再執行兩個判斷：
1)判斷是不是已經收集到了所有伺服器的提議狀態，如果是那麼根據選舉結果設置自己的角色（FOLLOWING還是LEADER），然後退出選舉過程
2)即使沒有收集到所有伺服器的提議狀態，也可以判斷一下根據以上過程之後最新的選舉leader是不是得到了超過半數以上法定人數的支持，如果是，那麼嘗試在200ms內（預設）接收一下數據，如果沒有新的數據到來，說明大家都已經預設了這個結果，同樣也設置角色退出選舉過程
如果所接收伺服器不在選舉狀態，也就是在FOLLOWING或者LEADING狀態，做以下兩個判斷：
1) 如果邏輯時鐘相同，將該數據保存到recvset，如果接收伺服器處於LEADING狀態，那麼將判斷是不是有半數以上的伺服器選舉它，如果是則設置選舉狀態，退出選舉過程
2) 否則這是一條與當前邏輯時鐘不符合的消息，說明在另一個選舉過程中已經有了選舉結果，於是將該選舉結果加入到outofelection集合中，再根據outofelection來判斷是否可以結束選舉，如果可以也保存邏輯時鐘，設置選舉狀態，退出選舉過程
b) Follower
Follower的邏輯就比較簡單了。除了響應本伺服器上的讀請求外，follower還要處理leader的提議，併在leader提交該提議時在本地也進行提交。
另外需要註意的是，leader和follower構成ZooKeeper集群的法定人數，也就是說，只有他們才參與新leader的選舉、響應leader的提議。
c) Observer
如果ZooKeeper集群的讀取負載很高，或者客戶端多到跨機房，可以設置一些observer伺服器，以提高讀取的吞吐量。Observer和Follower比較相似，只有一些小區別：首先observer不屬於法定人數，即不參加選舉也不響應提議；其次是observer不需要將事務持久化到磁碟，一旦observer被重啟，需要從leader重新同步整個名字空間。
12) Zookeeper設計目的
1.最終一致性：client不論連接到哪個Server，展示給它都是同一個視圖，這是zookeeper最重要的性能。
2.可靠性：具有簡單、健壯、良好的性能，如果消息被到一臺伺服器接受，那麼它將被所有的伺服器接受。
3.實時性：Zookeeper保證客戶端將在一個時間間隔範圍內獲得伺服器的更新信息，或者伺服器失效的信息。但由於網路延時等原因，Zookeeper不能保證兩個客戶端能同時得到剛更新的數據，如果需要最新數據，應該在讀數據之前調用sync()介面。
4.等待無關（wait-free）：慢的或者失效的client不得干預快速的client的請求，使得每個client都能有效的等待。
5.原子性：更新只能成功或者失敗，沒有中間狀態。
6.順序性：包括全局有序和偏序兩種：全局有序是指如果在一臺伺服器上消息a在消息b前發佈，則在所有Server上消息a都將在消息b前被髮布；偏序是指如果一個消息b在消息a後被同一個發送者發佈，a必將排在b前面。
13) Zookeeper工作原理
Zookeeper 的核心是原子廣播，這個機制保證了各個Server之間的同步。實現這個機制的協議叫做Zab協議。Zab協議有兩種模式，它們分別是恢復模式（選主）和廣播模式（同步）。當服務啟動或者在領導者崩潰後，Zab就進入了恢復模式，當領導者被選舉出來，且大多數Server完成了和 leader的狀態同步以後，恢復模式就結束了。狀態同步保證了leader和Server具有相同的系統狀態。
為了保證事務的順序一致性，zookeeper採用了遞增的事務id號（zxid）來標識事務。所有的提議（proposal）都在被提出的時候加上了zxid。實現中zxid是一個64位的數字，它高32位是epoch用來標識leader關係是否改變，每次一個leader被選出來，它都會有一個新的epoch，標識當前屬於那個leader的統治時期。低32位用於遞增計數。
14) Zookeeper 下 Server工作狀態
每個Server在工作過程中有三種狀態：
LOOKING：當前Server不知道leader是誰，正在搜尋
LEADING：當前Server即為選舉出來的leader
FOLLOWING：leader已經選舉出來，當前Server與之同步
15) Zookeeper選主流程(basic paxos)
當leader崩潰或者leader失去大多數的follower，這時候zk進入恢復模式，恢復模式需要重新選舉出一個新的leader，讓所有的Server都恢復到一個正確的狀態。Zk的選舉演算法有兩種：一種是基於basic paxos實現的，另外一種是基於fast paxos演算法實現的。系統預設的選舉演算法為fast paxos。
1.選舉線程由當前Server發起選舉的線程擔任，其主要功能是對投票結果進行統計，並選出推薦的Server；
2.選舉線程首先向所有Server發起一次詢問(包括自己)；
3.選舉線程收到回覆後，驗證是否是自己發起的詢問(驗證zxid是否一致)，然後獲取對方的id(myid)，並存儲到當前詢問對象列表中，最後獲取對方提議的leader相關信息(id,zxid)，並將這些信息存儲到當次選舉的投票記錄表中；
4.收到所有Server回覆以後，就計算出zxid最大的那個Server，並將這個Server相關信息設置成下一次要投票的Server；
5.線程將當前zxid最大的Server設置為當前Server要推薦的Leader，如果此時獲勝的Server獲得n/2 + 1的Server票數，設置當前推薦的leader為獲勝的Server，將根據獲勝的Server相關信息設置自己的狀態，否則，繼續這個過程，直到leader被選舉出來。 通過流程分析我們可以得出：要使Leader獲得多數Server的支持，則Server總數必須是奇數2n+1，且存活的Server的數目不得少於n+1. 每個Server啟動後都會重覆以上流程。在恢復模式下，如果是剛從崩潰狀態恢復的或者剛啟動的server還會從磁碟快照中恢複數據和會話信息，zk會記錄事務日誌並定期進行快照，方便在恢復時進行狀態恢復。選主的具體流程圖所示：
16) Zookeeper選主流程（fast paxos）
fast paxos流程是在選舉過程中，某Server首先向所有Server提議自己要成為leader，當其它Server收到提議以後，解決epoch和 zxid的衝突，並接受對方的提議，然後向對方發送接受提議完成的消息，重覆這個流程，最後一定能選舉出Leader。
17) Zookeeper同步流程
選完Leader以後，zk就進入狀態同步過程。
1. Leader等待server連接；
2 .Follower連接leader，將最大的zxid發送給leader；
3 .Leader根據follower的zxid確定同步點；
4 .完成同步後通知follower 已經成為uptodate狀態；
5 .Follower收到uptodate消息後，又可以重新接受client的請求進行服務了。
18) Zookeeper工作流程-Leader
1 .恢複數據；
2 .維持與Learner的心跳，接收Learner請求並判斷Learner的請求消息類型；
3 .Learner的消息類型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根據不同的消息類型，進行不同的處理。
PING 消息是指Learner的心跳信息；
REQUEST消息是Follower發送的提議信息，包括寫請求及同步請求；
ACK消息是 Follower的對提議的回覆，超過半數的Follower通過，則commit該提議；
REVALIDATE消息是用來延長SESSION有效時間。
19) Zookeeper工作流程-Follower
Follower主要有四個功能：
1.向Leader發送請求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；
2.接收Leader消息併進行處理；
3.接收Client的請求，如果為寫請求，發送給Leader進行投票；
4.返回Client結果。
Follower的消息迴圈處理如下幾種來自Leader的消息：
1 .PING消息： 心跳消息；
2 .PROPOSAL消息：Leader發起的提案，要求Follower投票；
3 .COMMIT消息：伺服器端最新一次提案的信息；
4 .UPTODATE消息：表明同步完成；
5 .REVALIDATE消息：根據Leader的REVALIDATE結果，關閉待revalidate的session還是允許其接受消息；
6 .SYNC消息：返回SYNC結果到客戶端，這個消息最初由客戶端發起，用來強制得到最新的更新。
20) 為什麼zookeeper集群的數目，一般為奇數個？
•Leader選舉演算法採用了Paxos協議；
•Paxos核心思想：當多數Server寫成功，則任務數據寫成功如果有3個Server，則兩個寫成功即可；如果有4或5個Server，則三個寫成功即可。
•Server數目一般為奇數（3、5、7）如果有3個Server，則最多允許1個Server掛掉；如果有4個Server，則同樣最多允許1個Server掛掉由此，
我們看出3台伺服器和4台伺服器的的容災能力是一樣的，所以為了節省伺服器資源，一般我們採用奇數個數，作為伺服器部署個數。
