ZooKeeper的起源和誕生

Zookeeper最早起源于雅虎研究院的一個研究小組。在當(dāng)時，研究人員發(fā)現(xiàn)，在雅虎內(nèi)部很多大型系統(tǒng)基本都需要依賴一個類似的系統(tǒng)來進(jìn)行分布式協(xié)調(diào)，但是這些系統(tǒng)往往都存在分布式單點問題。所以，雅虎的開發(fā)人員就試圖開發(fā)一個通用的無單點問題的分布式協(xié)調(diào)框架，以便讓開發(fā)人員將精力集中在處理業(yè)務(wù)邏輯上。

ZooKeeper的命名的由來

關(guān)于“ZooKeeper”這個項目的名字，其實也有一段趣聞。在立項初期，考慮到之前內(nèi)部很多項目都是使用動物的名字來命名的（例如著名的Pig項目),雅虎的工程師希望給這個項目也取一個動物的名字。時任研究院的首席科學(xué)家RaghuRamakrishnan開玩笑地說：“在這樣下去，我們這兒就變成動物園了！”此話一出，大家紛紛表示就叫動物園管理員吧一一一因為各個以動物命名的分布式組件放在一起，雅虎的整個分布式系統(tǒng)看上去就像一個大型的動物園了，而Zookeeper正好要用來進(jìn)行分布式環(huán)境的協(xié)調(diào)一一于是，Zookeeper的名字也就由此誕生了。

(資料圖片僅供參考)

ZooKeeper的概覽

ZooKeeper 是一個開源的分布式協(xié)調(diào)服務(wù)，ZooKeeper框架最初是在“Yahoo!"上構(gòu)建的，用于以簡單而穩(wěn)健的方式訪問他們的應(yīng)用程序。 后來，Apache ZooKeeper成為Hadoop，HBase和其他分布式框架使用的有組織服務(wù)的標(biāo)準(zhǔn)。 例如，Apache HBase使用ZooKeeper跟蹤分布式數(shù)據(jù)的狀態(tài)。

Zookeeper的設(shè)計目標(biāo)

ZooKeeper 的設(shè)計目標(biāo)是將那些復(fù)雜且容易出錯的分布式一致性服務(wù)封裝起來，構(gòu)成一個高效可靠的原語集，并以一系列簡單易用的接口提供給用戶使用。

原語： 操作系統(tǒng)或計算機(jī)網(wǎng)絡(luò)用語范疇。是由若干條指令組成的，用于完成一定功能的一個過程。具有不可分割性·即原語的執(zhí)行必須是連續(xù)的，在執(zhí)行過程中不允許被中斷。

Zookeeper的使用場景

ZooKeeper 是一個典型的分布式數(shù)據(jù)一致性解決方案，分布式應(yīng)用程序可以基于 ZooKeeper 實現(xiàn)諸如數(shù)據(jù)發(fā)布/訂閱、負(fù)載均衡、命名服務(wù)、分布式協(xié)調(diào)/通知、集群管理、Master 選舉、分布式鎖和分布式隊列等功能。

Zookeeper 一個最常用的使用場景就是用于擔(dān)任服務(wù)生產(chǎn)者和服務(wù)消費者的注冊中心。服務(wù)生產(chǎn)者將自己提供的服務(wù)注冊到Zookeeper中心，服務(wù)的消費者在進(jìn)行服務(wù)調(diào)用的時候先到Zookeeper中查找服務(wù)，獲取到服務(wù)生產(chǎn)者的詳細(xì)信息之后，再去調(diào)用服務(wù)生產(chǎn)者的內(nèi)容與數(shù)據(jù)。如下圖所示，在 Dubbo架構(gòu)中 Zookeeper 就擔(dān)任了注冊中心這一角色。

ZooKeeper左右solr集群的管理工具服務(wù)

除了使用ZooKeeper作為Dubbo的注冊中心(Dubbo 官方推薦使用 ZooKeeper注冊中心)。還有就是在搭建solr集群的時候，我使用ZooKeeper作為solr集群的管理工具。在這里ZooKeeper 主要提供下面幾個功能：

集群管理：容錯、負(fù)載均衡。配置文件的集中管理集群的入口。

最好是使用 集群版的 ZooKeeper 而不是單機(jī)版的。官網(wǎng)給出的架構(gòu)圖就描述的是一個集群版的 ZooKeeper 。通常 3 臺服務(wù)器就可以構(gòu)成一個 ZooKeeper 集群了。

最好使用奇數(shù)臺服務(wù)器構(gòu)成 ZooKeeper 集群

所謂的zookeeper容錯是指，當(dāng)宕掉幾個zookeeper服務(wù)器之后，剩下的個數(shù)必須大于宕掉的個數(shù)的話整個zookeeper才依然可用。假如我們的集群中有n臺zookeeper服務(wù)器，那么也就是剩下的服務(wù)數(shù)必須大于n/2。先說一下結(jié)論，2n和2n-1的容忍度是一樣的，都是n-1，大家可以先自己仔細(xì)想一想，這應(yīng)該是一個很簡單的數(shù)學(xué)問題了。 比如假如我們有3臺，那么最大允許宕掉1臺zookeeper服務(wù)器，如果我們有4臺的的時候也同樣只允許宕掉1臺。假如我們有5臺，那么最大允許宕掉2臺zookeeper服務(wù)器，如果我們有6臺的的時候也同樣只允許宕掉2臺。

ZooKeeper的一些重要概念

重要概念總結(jié)

ZooKeeper 本身就是一個分布式程序（只要半數(shù)以上節(jié)點存活，ZooKeeper 就能正常服務(wù)）。為了保證高可用，最好是以集群形態(tài)來部署 ZooKeeper，這樣只要集群中大部分機(jī)器是可用的（能夠容忍一定的機(jī)器故障），那么 ZooKeeper 本身仍然是可用的。ZooKeeper 將數(shù)據(jù)保存在內(nèi)存中，這也就保證了 高吞吐量和低延遲（但是內(nèi)存限制了能夠存儲的容量不太大，此限制也是保持znode中存儲的數(shù)據(jù)量較小的進(jìn)一步原因）。ZooKeeper 是高性能的。 在“讀”多于“寫”的應(yīng)用程序中尤其地高性能，因為“寫”會導(dǎo)致所有的服務(wù)器間同步狀態(tài)。（“讀”多于“寫”是協(xié)調(diào)服務(wù)的典型場景。）ZooKeeper有臨時節(jié)點的概念。 當(dāng)創(chuàng)建臨時節(jié)點的客戶端會話一直保持活動，瞬時節(jié)點就一直存在。而當(dāng)會話終結(jié)時，瞬時節(jié)點被刪除。持久節(jié)點是指一旦這個ZNode被創(chuàng)建了，除非主動進(jìn)行ZNode的移除操作，否則這個ZNode將一直保存在Zookeeper上。ZooKeeper 底層其實只提供了兩個功能：①管理（存儲、讀取）用戶程序提交的數(shù)據(jù)；②為用戶程序提交數(shù)據(jù)節(jié)點監(jiān)聽服務(wù)。

會話（Session）

Session 指的是 ZooKeeper 服務(wù)器與客戶端會話。在 ZooKeeper 中，一個客戶端連接是指客戶端和服務(wù)器之間的一個 TCP 長連接。客戶端啟動的時候，首先會與服務(wù)器建立一個 TCP 連接，從第一次連接建立開始，客戶端會話的生命周期也開始了。通過這個連接，客戶端能夠通過心跳檢測與服務(wù)器保持有效的會話，也能夠向Zookeeper服務(wù)器發(fā)送請求并接受響應(yīng)，同時還能夠通過該連接接收來自服務(wù)器的Watch事件通知。

Session的??sessionTimeout??值用來設(shè)置一個客戶端會話的超時時間。當(dāng)由于服務(wù)器壓力太大、網(wǎng)絡(luò)故障或是客戶端主動斷開連接等各種原因?qū)е驴蛻舳诉B接斷開時，只要在??sessionTimeout??規(guī)定的時間內(nèi)能夠重新連接上集群中任意一臺服務(wù)器，那么之前創(chuàng)建的會話仍然有效。

在為客戶端創(chuàng)建會話之前，服務(wù)端首先會為每個客戶端都分配一個sessionID。由于 sessionID 是 Zookeeper 會話的一個重要標(biāo)識，許多與會話相關(guān)的運行機(jī)制都是基于這個 sessionID 的，因此，無論是哪臺服務(wù)器為客戶端分配的 sessionID，都務(wù)必保證全局唯一。

Znode

在談到分布式的時候，我們通常說的“節(jié)點"是指組成集群的每一臺機(jī)器。然而，在Zookeeper中，“節(jié)點"分為兩類，第一類同樣是指構(gòu)成集群的機(jī)器，我們稱之為機(jī)器節(jié)點；第二類則是指數(shù)據(jù)模型中的數(shù)據(jù)單元，我們稱之為數(shù)據(jù)節(jié)點一一ZNode。

Zookeeper將所有數(shù)據(jù)存儲在內(nèi)存中，數(shù)據(jù)模型是一棵樹（Znode Tree)，由斜杠（/）的進(jìn)行分割的路徑，就是一個Znode，例如/foo/path1。每個上都會保存自己的數(shù)據(jù)內(nèi)容，同時還會保存一系列屬性信息。

在Zookeeper中，node可以分為持久節(jié)點和臨時節(jié)點兩類。所謂持久節(jié)點是指一旦這個ZNode被創(chuàng)建了，除非主動進(jìn)行ZNode的移除操作，否則這個ZNode將一直保存在Zookeeper上。而臨時節(jié)點就不一樣了，它的生命周期和客戶端會話綁定，一旦客戶端會話失效，那么這個客戶端創(chuàng)建的所有臨時節(jié)點都會被移除。另外，ZooKeeper還允許用戶為每個節(jié)點添加一個特殊的屬性：SEQUENTIAL.一旦節(jié)點被標(biāo)記上這個屬性，那么在這個節(jié)點被創(chuàng)建的時候，Zookeeper會自動在其節(jié)點名后面追加上一個整型數(shù)字，這個整型數(shù)字是一個由父節(jié)點維護(hù)的自增數(shù)字。

Version

在前面我們已經(jīng)提到，Zookeeper 的每個 ZNode 上都會存儲數(shù)據(jù)，對應(yīng)于每個ZNode，Zookeeper 都會為其維護(hù)一個叫作 Stat的數(shù)據(jù)結(jié)構(gòu)，Stat 中記錄了這個 ZNode 的三個數(shù)據(jù)版本，分別是version（當(dāng)前ZNode的版本）、cversion（當(dāng)前ZNode子節(jié)點的版本）和 aversion（當(dāng)前ZNode的ACL版本）。

Watcher

Watcher（事件監(jiān)聽器），是Zookeeper中的一個很重要的特性。Zookeeper允許用戶在指定節(jié)點上注冊一些Watcher，并且在一些特定事件觸發(fā)的時候，ZooKeeper服務(wù)端會將事件通知到感興趣的客戶端上去，該機(jī)制是Zookeeper實現(xiàn)分布式協(xié)調(diào)服務(wù)的重要特性。

ACL

Zookeeper采用ACL（AccessControlLists）策略來進(jìn)行權(quán)限控制，類似于 UNIX 文件系統(tǒng)的權(quán)限控制。Zookeeper 定義了如下5種權(quán)限。其中尤其需要注意的是，CREATE和DELETE這兩種權(quán)限都是針對子節(jié)點的權(quán)限控制。

ZooKeeper特點

順序一致性：從同一客戶端發(fā)起的事務(wù)請求，最終將會嚴(yán)格地按照順序被應(yīng)用到 ZooKeeper 中去。原子性：所有事務(wù)請求的處理結(jié)果在整個集群中所有機(jī)器上的應(yīng)用情況是一致的，也就是說，要么整個集群中所有的機(jī)器都成功應(yīng)用了某一個事務(wù)，要么都沒有應(yīng)用。單一系統(tǒng)映像 ：無論客戶端連到哪一個 ZooKeeper 服務(wù)器上，其看到的服務(wù)端數(shù)據(jù)模型都是一致的。可靠性：一旦一次更改請求被應(yīng)用，更改的結(jié)果就會被持久化，直到被下一次更改覆蓋。

ZooKeeper 設(shè)計目標(biāo)

簡單的數(shù)據(jù)模型

ZooKeeper 允許分布式進(jìn)程通過共享的層次結(jié)構(gòu)命名空間進(jìn)行相互協(xié)調(diào)，這與標(biāo)準(zhǔn)文件系統(tǒng)類似。 名稱空間由 ZooKeeper 中的數(shù)據(jù)寄存器組成 - 稱為znode，這些類似于文件和目錄。 與為存儲設(shè)計的典型文件系統(tǒng)不同，ZooKeeper數(shù)據(jù)保存在內(nèi)存中，這意味著ZooKeeper可以實現(xiàn)高吞吐量和低延遲。

可構(gòu)建集群

為了保證高可用，最好是以集群形態(tài)來部署 ZooKeeper，這樣只要集群中大部分機(jī)器是可用的（能夠容忍一定的機(jī)器故障），那么zookeeper本身仍然是可用的。客戶端在使用 ZooKeeper 時，需要知道集群機(jī)器列表，通過與集群中的某一臺機(jī)器建立 TCP 連接來使用服務(wù)，客戶端使用這個TCP鏈接來發(fā)送請求、獲取結(jié)果、獲取監(jiān)聽事件以及發(fā)送心跳包。如果這個連接異常斷開了，客戶端可以連接到另外的機(jī)器上。

ZooKeepe架構(gòu)圖

上圖中每一個Server代表一個安裝Zookeeper服務(wù)的服務(wù)器。組成 ZooKeeper 服務(wù)的服務(wù)器都會在內(nèi)存中維護(hù)當(dāng)前的服務(wù)器狀態(tài)，并且每臺服務(wù)器之間都互相保持著通信。集群間通過 Zab 協(xié)議（Zookeeper Atomic Broadcast）來保持?jǐn)?shù)據(jù)的一致性。

順序訪問

對于來自客戶端的每個更新請求，ZooKeeper 都會分配一個全局唯一的遞增編號，這個編號反應(yīng)了所有事務(wù)操作的先后順序，應(yīng)用程序可以使用 ZooKeeper 這個特性來實現(xiàn)更高層次的同步原語。這個編號也叫做時間戳——zxid（Zookeeper Transaction Id）

高性能

ZooKeeper 是高性能的。 在“讀”多于“寫”的應(yīng)用程序中尤其地高性能，因為“寫”會導(dǎo)致所有的服務(wù)器間同步狀態(tài)。（“讀”多于“寫”是協(xié)調(diào)服務(wù)的典型場景。）

ZooKeeper 集群角色介紹

最典型集群模式： Master/Slave 模式（主備模式）。在這種模式中，通常 Master服務(wù)器作為主服務(wù)器提供寫服務(wù)，其他的 Slave 服務(wù)器從服務(wù)器通過異步復(fù)制的方式獲取 Master 服務(wù)器最新的數(shù)據(jù)提供讀服務(wù)。

但是，在 ZooKeeper 中沒有選擇傳統(tǒng)的 Master/Slave 概念，而是引入了Leader、Follower 和 Observer 三種角色。如下圖所示

ZooKeeper 集群中的所有機(jī)器通過一個 Leader 選舉過程來選定一臺稱為 “Leader” 的機(jī)器，Leader 既可以為客戶端提供寫服務(wù)又能提供讀服務(wù)。除了 Leader 外，F(xiàn)ollower 和 Observer 都只能提供讀服務(wù)。Follower 和 Observer 唯一的區(qū)別在于 Observer 機(jī)器不參與 Leader 的選舉過程，也不參與寫操作的“過半寫成功”策略，因此 Observer 機(jī)器可以在不影響寫性能的情況下提升集群的讀性能。

當(dāng) Leader 服務(wù)器出現(xiàn)網(wǎng)絡(luò)中斷、崩潰退出與重啟等異常情況時，ZAB 協(xié)議就會進(jìn)人恢復(fù)模式并選舉產(chǎn)生新的Leader服務(wù)器。這個過程大致是這樣的：

Leader election（選舉階段）：節(jié)點在一開始都處于選舉階段，只要有一個節(jié)點得到超半數(shù)節(jié)點的票數(shù)，它就可以當(dāng)選準(zhǔn) leader。Discovery（發(fā)現(xiàn)階段）：在這個階段，followers 跟準(zhǔn) leader 進(jìn)行通信，同步 followers 最近接收的事務(wù)提議。Synchronization（同步階段）:同步階段主要是利用 leader 前一階段獲得的最新提議歷史，同步集群中所有的副本。同步完成之后準(zhǔn) leader 才會成為真正的 leader。Broadcast（廣播階段）到了這個階段，Zookeeper 集群才能正式對外提供事務(wù)服務(wù)，并且 leader 可以進(jìn)行消息廣播。同時如果有新的節(jié)點加入，還需要對新節(jié)點進(jìn)行同步。

ZooKeeper &ZAB 協(xié)議&Paxos算法

ZAB 協(xié)議&Paxos算法

Paxos 算法應(yīng)該可以說是 ZooKeeper 的靈魂了。但是，ZooKeeper 并沒有完全采用 Paxos算法 ，而是使用 ZAB 協(xié)議作為其保證數(shù)據(jù)一致性的核心算法。另外，在ZooKeeper的官方文檔中也指出，ZAB協(xié)議并不像 Paxos 算法那樣，是一種通用的分布式一致性算法，它是一種特別為Zookeeper設(shè)計的崩潰可恢復(fù)的原子消息廣播算法。

ZAB 協(xié)議介紹

ZAB（ZooKeeper Atomic Broadcast 原子廣播） 協(xié)議是為分布式協(xié)調(diào)服務(wù) ZooKeeper 專門設(shè)計的一種支持崩潰恢復(fù)的原子廣播協(xié)議。 在 ZooKeeper 中，主要依賴 ZAB 協(xié)議來實現(xiàn)分布式數(shù)據(jù)一致性，基于該協(xié)議，ZooKeeper 實現(xiàn)了一種主備模式的系統(tǒng)架構(gòu)來保持集群中各個副本之間的數(shù)據(jù)一致性。

ZAB 協(xié)議兩種基本的模式：崩潰恢復(fù)和消息廣播

ZAB協(xié)議包括兩種基本的模式，分別是 崩潰恢復(fù)和消息廣播。當(dāng)整個服務(wù)框架在啟動過程中，或是當(dāng) Leader 服務(wù)器出現(xiàn)網(wǎng)絡(luò)中斷、崩潰退出與重啟等異常情況時，ZAB 協(xié)議就會進(jìn)人恢復(fù)模式并選舉產(chǎn)生新的Leader服務(wù)器。當(dāng)選舉產(chǎn)生了新的 Leader 服務(wù)器，同時集群中已經(jīng)有過半的機(jī)器與該Leader服務(wù)器完成了狀態(tài)同步之后，ZAB協(xié)議就會退出恢復(fù)模式。其中，所謂的狀態(tài)同步是指數(shù)據(jù)同步，用來保證集群中存在過半的機(jī)器能夠和Leader服務(wù)器的數(shù)據(jù)狀態(tài)保持一致。

當(dāng)集群中已經(jīng)有過半的Follower服務(wù)器完成了和Leader服務(wù)器的狀態(tài)同步，那么整個服務(wù)框架就可以進(jìn)人消息廣播模式了。當(dāng)一臺同樣遵守ZAB協(xié)議的服務(wù)器啟動后加人到集群中時，如果此時集群中已經(jīng)存在一個Leader服務(wù)器在負(fù)責(zé)進(jìn)行消息廣播，那么新加人的服務(wù)器就會自覺地進(jìn)人數(shù)據(jù)恢復(fù)模式：找到Leader所在的服務(wù)器，并與其進(jìn)行數(shù)據(jù)同步，然后一起參與到消息廣播流程中去。正如上文介紹中所說的，ZooKeeper設(shè)計成只允許唯一的一個Leader服務(wù)器來進(jìn)行事務(wù)請求的處理。Leader服務(wù)器在接收到客戶端的事務(wù)請求后，會生成對應(yīng)的事務(wù)提案并發(fā)起一輪廣播協(xié)議；而如果集群中的其他機(jī)器接收到客戶端的事務(wù)請求，那么這些非Leader服務(wù)器會首先將這個事務(wù)請求轉(zhuǎn)發(fā)給Leader服務(wù)器。

總結(jié)

通過閱讀本文，想必大家已從 ①ZooKeeper的由來。-> ②ZooKeeper 到底是什么 。-> ③ ZooKeeper 的一些重要概念（會話（Session）、 Znode、版本、Watcher、ACL）-> ④ZooKeeper 的特點。-> ⑤ZooKeeper 的設(shè)計目標(biāo)。-> ⑥ ZooKeeper 集群角色介紹（Leader、Follower 和 Observer 三種角色）-> ⑦ZooKeeper &ZAB 協(xié)議&Paxos算法。這七點了解了 ZooKeeper 。

參考

??https://cwiki.apache.org/confluence/display/ZOOKEEPER/ProjectDescription????https://cwiki.apache.org/confluence/display/ZOOKEEPER/Index????https://www.cnblogs.com/raphael5200/p/5285583.html????https://zhuanlan.zhihu.com/p/30024403??