</div><!--end: blogStats -->
</div><!--end: navigator 博客导航栏 -->
【转】浅谈分布式服务协调技术 Zookeeper
非常好介绍Zookeeper的文章,
Google的三篇论文影响了很多很多人,也影响了很多很多系统。这三篇论文一直是分布式领域传阅的经典。根据MapReduce,于是我们有了Hadoop;根据GFS,于是我们有了HDFS;根据BigTable,于是我们有了HBase。而在这三篇论文里都提及Google的一个Lock Service —— Chubby,哦,于是我们有了Zookeeper。 随着大数据的火热,Hxx们已经变得耳熟能详,现在作为一个开发人员如果都不知道这几个名词出门都好像不好意思跟人打招呼。但实际上对我们这些非大数据开发人员而言,Zookeeper是比Hxx们可能接触到更多的一个基础服务。但是,无奈的是它一直默默的位于二线,从来没有Hxx们那么耀眼。那么到底什么是Zookeeper呢?Zookeeper可以用来干什么?我们将如何使用Zookeeper?Zookeeper又是怎么实现的? 什么是Zookeeper 在Zookeeper的官网上有这么一句话:ZooKeeper is a centralized service for maintaining configuration information, naming, providing distributed synchronization, and providing group services。 这大概描述了Zookeeper主要是一个分布式服务协调框架,实现同步服务,配置维护和命名服务等分布式应用。是一个高性能的分布式数据一致性解决方案。 通俗地讲,ZooKeeper是动物园管理员,它是拿来管大象 Hadoop、鲸鱼 HBase、Kafka等的管理员。 Zookeeper和CAP的关系
扫描二维码关注公众号,回复:
3946942 查看本文章
作为一个分布式系统,分区容错性是一个必须要考虑的关键点。一个分布式系统一旦丧失了分区容错性,也就表示放弃了扩展性。因为在分布式系统中,网络故障是经常出现的,一旦出现在这种问题就会导致整个系统不可用是绝对不能容忍的。所以,大部分分布式系统都会在保证分区容错性的前提下在一致性和可用性之间做权衡。 ZooKeeper是个CP(一致性+分区容错性)的,即任何时刻对ZooKeeper的访问请求能得到一致的数据结果,同时系统对网络分割具备容错性;但是它不能保证每次服务请求的可用性。也就是在极端环境下,ZooKeeper可能会丢弃一些请求,消费者程序需要重新请求才能获得结果。 ZooKeeper是分布式协调服务,它的职责是保证数据在其管辖下的所有服务之间保持同步、一致;所以就不难理解为什么ZooKeeper被设计成CP而不是AP特性的了。而且, 作为ZooKeeper的核心实现算法Zab,就是解决了分布式系统下数据如何在多个服务之间保持同步问题的。 Zookeeper节点特性及节点属性分析 Zookeeper提供基于类似于文件系统的目录节点树方式的数据存储,但是Zookeeper并不是用来专门存储数据的,它的作用主要是用来维护和监控你存储的数据的状态变化。通过监控这些数据状态的变化,从而可以达到基于数据的集群管理。 数据模型 与Linux文件系统不同的是,Linux文件系统有目录和文件的区别,而Zookeeper的数据节点称为ZNode,ZNode是Zookeeper中数据的最小单元,每个ZNode都可以保存数据,同时还可以挂载子节点,因此构成了一个层次化的命名空间,称为树。 Zookeeper中ZNode的节点创建时候是可以指定类型的,主要有下面几种类型。
Watcher数据变更通知 Zookeeper使用Watcher机制实现分布式数据的发布/订阅功能。 Zookeeper的Watcher机制主要包括客户端线程、客户端WatcherManager、Zookeeper服务器三部分。客户端在向Zookeeper服务器注册的同时,会将Watcher对象存储在客户端的WatcherManager当中。当Zookeeper服务器触发Watcher事件后,会向客户端发送通知,客户端线程从WatcherManager中取出对应的Watcher对象来执行回调逻辑。 ACL保障数据的安全 Zookeeper内部存储了分布式系统运行时状态的元数据,这些元数据会直接影响基于Zookeeper进行构造的分布式系统的运行状态,如何保障系统中数据的安全,从而避免因误操作而带来的数据随意变更而导致的数据库异常十分重要,Zookeeper提供了一套完善的ACL权限控制机制来保障数据的安全。 我们可以从三个方面来理解ACL机制:权限模式 Scheme、授权对象 ID、权限 Permission,通常使用”scheme:id:permission”来标识一个有效的ACL信息。 内存数据 Zookeeper的数据模型是树结构,在内存数据库中,存储了整棵树的内容,包括所有的节点路径、节点数据、ACL信息,Zookeeper会定时将这个数据存储到磁盘上。
Zookeeper的实现原理分析 1. Zookeeper Service网络结构 Zookeeper的工作集群可以简单分成两类,一个是Leader,唯一一个,其余的都是follower,如何确定Leader是通过内部选举确定的。
2. Zookeeper读写数据
3. Zookeeper工作原理 Zab协议 Zookeeper的核心是广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。 Zab(ZooKeeper Atomic Broadcast)原子消息广播协议作为数据一致性的核心算法,Zab协议是专为Zookeeper设计的支持崩溃恢复原子消息广播算法。 Zab协议核心如下: 所有的事务请求必须一个全局唯一的服务器(Leader)来协调处理,集群其余的服务器称为follower服务器。Leader服务器负责将一个客户端请求转化为事务提议(Proposal),并将该proposal分发给集群所有的follower服务器。之后Leader服务器需要等待所有的follower服务器的反馈,一旦超过了半数的follower服务器进行了正确反馈后,那么Leader服务器就会再次向所有的follower服务器分发commit消息,要求其将前一个proposal进行提交。 Zab模式 Zab协议包括两种基本的模式:崩溃恢复和消息广播。
Zookeeper只允许唯一的一个Leader服务器来进行事务请求的处理,Leader服务器在接收到客户端的事务请求后,会生成对应的事务提议并发起一轮广播协议,而如果集群中的其他机器收到客户端的事务请求后,那么这些非Leader服务器会首先将这个事务请求转发给Leader服务器。 消息广播 Zab协议的消息广播过程使用是一个原子广播协议,类似一个2PC提交过程。具体的:
Zab协议简化了2PC事务提交:
崩溃恢复 上面我们讲了Zab协议在正常情况下的消息广播过程,那么一旦Leader服务器出现崩溃或者与过半的follower服务器失去联系,就进入崩溃恢复模式。 恢复模式需要重新选举出一个新的Leader,让所有的Server都恢复到一个正确的状态。 Zookeeper实践,共享锁,Leader选举 分布式锁用于控制分布式系统之间同步访问共享资源的一种方式,可以保证不同系统访问一个或一组资源时的一致性,主要分为排它锁和共享锁。
推荐文章:基于Zk实现分布式锁 Leader选举 Leader选举是保证分布式数据一致性的关键所在。当Zookeeper集群中的一台服务器出现以下两种情况之一时,需要进入Leader选举。
Zookeeper在3.4.0版本后只保留了TCP版本的 FastLeaderElection 选举算法。当一台机器进入Leader选举时,当前集群可能会处于以下两种状态:
对于集群中已经存在Leader而言,此种情况一般都是某台机器启动得较晚,在其启动之前,集群已经在正常工作,对这种情况,该机器试图去选举Leader时,会被告知当前服务器的Leader信息,对于该机器而言,仅仅需要和Leader机器建立起连接,并进行状态同步即可。 而在集群中不存在Leader情况下则会相对复杂,其步骤如下: (1) 第一次投票。无论哪种导致进行Leader选举,集群的所有机器都处于试图选举出一个Leader的状态,即LOOKING状态,LOOKING机器会向所有其他机器发送消息,该消息称为投票。投票中包含了SID(服务器的唯一标识)和ZXID(事务ID),(SID, ZXID)形式来标识一次投票信息。假定Zookeeper由5台机器组成,SID分别为1、2、3、4、5,ZXID分别为9、9、9、8、8,并且此时SID为2的机器是Leader机器,某一时刻,1、2所在机器出现故障,因此集群开始进行Leader选举。在第一次投票时,每台机器都会将自己作为投票对象,于是SID为3、4、5的机器投票情况分别为(3, 9),(4, 8), (5, 8)。 (2) 变更投票。每台机器发出投票后,也会收到其他机器的投票,每台机器会根据一定规则来处理收到的其他机器的投票,并以此来决定是否需要变更自己的投票,这个规则也是整个Leader选举算法的核心所在,其中术语描述如下
每次对收到的投票的处理,都是对(vote_sid, vote_zxid)和(self_sid, self_zxid)对比的过程。
(3) 确定Leader。经过第二轮投票后,集群中的每台机器都会再次接收到其他机器的投票,然后开始统计投票,如果一台机器收到了超过半数的相同投票,那么这个投票对应的SID机器即为Leader。此时Server3将成为Leader。 由上面规则可知,通常那台服务器上的数据越新(ZXID会越大),其成为Leader的可能性越大,也就越能够保证数据的恢复。如果ZXID相同,则SID越大机会越大。 「 浅谈大规模分布式系统中那些技术点」系列文章: Reference http://www.cnblogs.com/yuyijq/p/3391945.html http://www.cnblogs.com/kms1989/p/5504505.html http://www.hollischuang.com/archives/1275 http://www.jianshu.com/p/bf32e44d3113 http://www.jianshu.com/p/4654bdbb8792 http://www.jianshu.com/p/8fba732af0cd http://www.jianshu.com/p/6af7362701c5 http://www.jianshu.com/p/6929446d3b10 http://www.jianshu.com/p/5dce97c9ba85 http://www.cnblogs.com/sunddenly/articles/4073157.html http://www.dczou.com/viemall/454.html 转载请并标注: “本文转载自 linkedkeeper.com (文/张松然)” |
</div><!--end: forFlow -->
</div><!--end: mainContent 主体内容容器-->
<div id="sideBar">
<div id="sideBarMain">
公告
<div id="blog-calendar" style=""><table id="blogCalendar" class="Cal" cellspacing="0" cellpadding="0" title="Calendar">
<tbody><tr><td colspan="7"><table class="CalTitle" cellspacing="0">
<tbody><tr><td class="CalNextPrev"><a href="javascript:void(0);" onclick="loadBlogCalendar('2018/07/01');return false;"><</a></td><td align="center">2018年8月</td><td class="CalNextPrev" align="right"><a href="javascript:void(0);" onclick="loadBlogCalendar('2018/09/01');return false;">></a></td></tr>
</tbody></table></td></tr><tr><th class="CalDayHeader" align="center" abbr="日" scope="col">日</th><th class="CalDayHeader" align="center" abbr="一" scope="col">一</th><th class="CalDayHeader" align="center" abbr="二" scope="col">二</th><th class="CalDayHeader" align="center" abbr="三" scope="col">三</th><th class="CalDayHeader" align="center" abbr="四" scope="col">四</th><th class="CalDayHeader" align="center" abbr="五" scope="col">五</th><th class="CalDayHeader" align="center" abbr="六" scope="col">六</th></tr><tr><td class="CalOtherMonthDay" align="center">29</td><td class="CalOtherMonthDay" align="center">30</td><td class="CalOtherMonthDay" align="center">31</td><td align="center">1</td><td align="center">2</td><td align="center">3</td><td class="CalWeekendDay" align="center">4</td></tr><tr><td class="CalWeekendDay" align="center">5</td><td align="center">6</td><td align="center">7</td><td align="center"><a href="https://www.cnblogs.com/gossip/archive/2018/08/08.html"><u>8</u></a></td><td align="center">9</td><td align="center">10</td><td class="CalWeekendDay" align="center">11</td></tr><tr><td class="CalWeekendDay" align="center">12</td><td align="center">13</td><td align="center">14</td><td align="center">15</td><td align="center">16</td><td align="center">17</td><td class="CalWeekendDay" align="center">18</td></tr><tr><td class="CalWeekendDay" align="center">19</td><td align="center">20</td><td class="CalTodayDay" align="center">21</td><td align="center">22</td><td align="center">23</td><td align="center">24</td><td class="CalWeekendDay" align="center">25</td></tr><tr><td class="CalWeekendDay" align="center">26</td><td align="center">27</td><td align="center">28</td><td align="center">29</td><td align="center">30</td><td align="center">31</td><td class="CalOtherMonthDay" align="center">1</td></tr><tr><td class="CalOtherMonthDay" align="center">2</td><td class="CalOtherMonthDay" align="center">3</td><td class="CalOtherMonthDay" align="center">4</td><td class="CalOtherMonthDay" align="center">5</td><td class="CalOtherMonthDay" align="center">6</td><td class="CalOtherMonthDay" align="center">7</td><td class="CalOtherMonthDay" align="center">8</td></tr>
<div id="leftcontentcontainer">
<div id="blog-sidecolumn"><div id="sidebar_search" class="sidebar-block">
搜索
随笔分类(370)
- .Net Framework(10)
- 【代码坑】(1)
- Ajax(4)
- AspMvc(8)
- AspNet(28)
- IIS(11)
- Java(25)
- JavaScript(37)
- Jquery(12)
- Linq(4)
- Mongo(2)
- Net面试题宝典(3)
- Office编程(9)
- Oracle(20)
- ORM(5)
- SQL Server(37)
- UML(2)
- Visual Studio(8)
- Web前端开发(5)
- WinForm&WPF(3)
- XML(2)
- 测试(9)
- 持续集成(2)
- 读书(5)
- 反射(6)
- 服务(20)
- 互联网技术(1)
- 其它(30)
- 其它数据库(12)
- 设计模式(6)
- 生活(6)
- 项目管理(10)
- 消息队列(13)
- 性能优化(7)
- 源码控制工具(7)
随笔档案(634)
- 2018年8月 (1)
- 2018年6月 (2)
- 2018年5月 (2)
- 2018年4月 (1)
- 2018年3月 (2)
- 2018年1月 (2)
- 2017年12月 (1)
- 2017年7月 (6)
- 2017年6月 (4)
- 2017年5月 (3)
- 2017年3月 (1)
- 2017年2月 (2)
- 2017年1月 (4)
- 2016年12月 (7)
- 2016年11月 (26)
- 2016年10月 (50)
- 2016年9月 (9)
- 2016年8月 (4)
- 2016年7月 (9)
- 2016年6月 (14)
- 2016年5月 (3)
- 2016年4月 (16)
- 2016年3月 (4)
- 2016年2月 (9)
- 2016年1月 (1)
- 2015年12月 (8)
- 2015年11月 (7)
- 2015年10月 (13)
- 2015年9月 (1)
- 2015年8月 (1)
- 2015年7月 (1)
- 2015年6月 (9)
- 2015年5月 (14)
- 2015年4月 (6)
- 2015年3月 (9)
- 2015年2月 (7)
- 2015年1月 (15)
- 2014年12月 (6)
- 2014年11月 (12)
- 2014年10月 (1)
- 2014年9月 (1)
- 2014年8月 (11)
- 2014年7月 (21)
- 2014年6月 (15)
- 2014年5月 (14)
- 2014年4月 (10)
- 2014年3月 (1)
- 2014年2月 (4)
- 2014年1月 (2)
- 2013年12月 (1)
- 2013年10月 (1)
- 2013年9月 (1)
- 2013年8月 (2)
- 2013年7月 (1)
- 2013年6月 (3)
- 2013年5月 (1)
- 2013年4月 (1)
- 2013年3月 (2)
- 2013年2月 (1)
- 2012年10月 (1)
- 2012年9月 (3)
- 2012年7月 (3)
- 2012年6月 (3)
- 2012年5月 (9)
- 2012年4月 (9)
- 2012年3月 (24)
- 2012年2月 (10)
- 2012年1月 (2)
- 2011年12月 (13)
- 2011年11月 (31)
- 2011年10月 (12)
- 2011年9月 (11)
- 2011年8月 (2)
- 2011年7月 (8)
- 2011年6月 (3)
- 2011年5月 (4)
- 2011年4月 (11)
- 2011年3月 (12)
- 2011年2月 (8)
- 2011年1月 (6)
- 2010年12月 (2)
- 2010年10月 (1)
- 2010年5月 (2)
- 2010年4月 (2)
- 2010年3月 (6)
- 2010年2月 (5)
- 2009年12月 (3)
- 2009年10月 (1)
- 2009年8月 (4)
- 2009年6月 (5)
- 2009年2月 (5)
- 2009年1月 (4)
- 2008年12月 (8)
- 2008年11月 (4)
- 2008年10月 (10)
- 2008年9月 (1)
积分与排名
- 积分 - 585436
- 排名 - 209
最新评论
- 1. Re:MySql_SQLyog+SQL Assistant实现智能提示
- 撸主,可否分享下博客中的软件?
- –marvel888
- 2. Re:C# Json格式字符串
- 请教楼主,可以返回对象吗
- –傲娇的哈士奇
- 3. Re:Struct2_使用Ajax调用Action方法并返回值
- error : function(d) { alert(d.responseText);这个responseText是哪里的啊?还有这个d参数是具体是ac……
- –画情透骨
- 4. Re:MVC3+AutoFac实现程序集级别的依赖注入
- 实用,赞!
- –屌丝大叔的笔记
- 5. Re:Dubbo系列(3)_官方Demo说明
- 真的像你的昵称一样 文章无意义 扯
- –大伟_Dawei
【前端】SpreadJS表格控件,可嵌入应用开发的在线Excel
【免费】程序员21天搞定英文文档阅读
【推荐】如何快速搭建人工智能应用?
· 锤子吴德周:初期低估了TNT的开发难度 但系统会持续做
· 网易:2018年11月30日零点起正式停止网易博客运营
· 基于opencv和python的手指识别及追踪
· 一文看懂京东智能城市布局:城市计算的“方法论”
· 软银愿景基金投资众安在线 帮助其布局国际市场
» 更多新闻…
· 被踢出去的用户
· 成为一个有目标的学习者
· 历史转折中的“杭派工程师”
· 如何提高代码质量?
2016-07-26 索引的特点及使用