Hadoop之高可用HA

Hadoop的HA主要是HDFS的HA和YARN的HA

1、HDFS高可用HA(双NameNode消除单点故障)

Hadoop2.0之前,在HDFS集群中NameNode存在单点故障(SPOF)。

如果出现故障,如机器崩溃或机器需要升级维护,这时可通过HA方式将NameNode很快的切换到另外一台机器

(1)HDFS的HA注意点

       1)元数据管理方式需要改变          

           内存中各自保存一份元数据,Edits日志只有Active状态的NameNode节点可以做写操作,两个NameNode都可以读取Edits;

           共享的Edits放在一个共享存储中管理(qjournal和NFS两个主流实现)

       2)需要一个状态管理功能模块

            实现了一个zkfailover,常驻在每一个namenode所在的节点,每一个zkfailover负责监控自己所在NameNode节点,利用zk                进行状态标识,当需要进行状态切换时,由zkfailover来负责切换,切换时需要防止brain split现象的发生。

       3)必须保证两个NameNode之间能够ssh无密码登录

       4)隔离(Fence),即同一时刻仅仅有一个NameNode对外提供服务

(2)HDFS-HA自动故障转移工作机制

         自动故障转移为HDFS部署增加了两个新组件:ZooKeeper和ZKFailoverController(ZKFC)进程,如图3-20所示。                     ZooKeeper是维护少量协调数据,通知客户端这些数据的改变和监视客户端故障的高可用服务。HA的自动故障转移依赖于           ZooKeeper的以下功能:

        1)故障检测:集群中的每个NameNodeZooKeeper中维护了一个持久会话,如果机器崩溃,ZooKeeper中的会话将终                   止,ZooKeeper通知另一个NameNode需要触发故障转移。

        2)现役NameNode选择:ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役                            NameNode崩溃,另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode

         ZKFC是自动故障转移中的另一个新组件,是ZooKeeper的客户端,也监视和管理NameNode的状态。每个运行                           NameNode的主机也运行了一个ZKFC进程,ZKFC负责:

       1)健康监测:ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode,只要该NameNode及时地回复健康                状态,ZKFC认为该节点是健康的。如果该节点崩溃,冻结或进入不健康状态,健康监测器标识该节点为非健康的。

       2)ZooKeeper会话管理:当本地NameNode是健康的,ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode                处于active状态,ZKFC也保持一个特殊的znode锁,该锁使用了ZooKeeper对短暂节点的支持,如果会话终止,锁节点                将自动删除。

       3)基于ZooKeeper的选择:如果本地NameNode是健康的,且ZKFC发现没有其它的节点当前持有znode锁,它将为自己                获取该锁。如果成功,则它已经赢得了选择,并负责运行故障转移进程以使它的本地NameNode为Active。故障转移进                程与前面描述的手动故障转移相似,首先如果必要保护之前的现役NameNode,然后本地NameNode转换为Active状态。

2、YARN-HA

 

发布了69 篇原创文章 · 获赞 2 · 访问量 4483

猜你喜欢

转载自blog.csdn.net/zuodaoyong/article/details/104121889