浅析Hadoop高可用的配置
2021-09-10刘庆生陈位妮
刘庆生 陈位妮












摘要:高可用是保持服务高度可用性的一种设计。Hadoop高可用是应用在只有一个NameNode节点无法在故障宕机或者升级软硬件需要重启时而导致中止服务时,可快速用候补节点替代。要实现Hadoop高可用性,配置高可用是关键,特别要掌握配置过程中的技巧。
关键词:高可用、Active(服务)、Standby(候补)、配置
HA is a design to keep services highly available.Hadoop’s HA is mainly used in cases where only one NameNode node is unable to suspend service in the event of a failure or a software or hardware upgrade requiring a restart,and can be quickly replaced with a standby node. To achieve Hadoop’s HA,configuration high availability is the key,especially to master the skills in the configuration process.
一、什么是高可用
高可用(High Availability),简称HA,是通過专门设计来减少不可用时间并保持其服务高度可用性的一个系统。它能监测与排除软件故障、备份和数据保护、监视各站点运行情况,并随时或定时报告,主动采用必要的控制手段、实现错误隔离、切换的主备份服务器间的服务。其核心体现在配置多台服务器发生故障后,能快速的自动切换。
二、hadoop集群高可用的应用背景
hadoop集群一般包括一个NameNode和三个DateNode节点,由FSNameSystem负责管理可靠性低的内存中的数据。因fsimage持久化操作只在edits中更新,当客户端操作时,变化的元数据仅在日志里面记录过程,只有操作成功后,才在内存中记录数据,因而edits中记录的数据与fsimage中的数据没有合并,故SecondaryNameNode每隔一段时间需将edits文件下载合并后加载到内存形成新的元数据,再把内存中的数据形成新的fsimage发送到NameNode节点,来替换原有的fsimage。若仅有一个NameNode节点,当故障宕机或升级软硬件需重启时,Hadoop会暂时中止服务,hdfs无法提供服务,导致可用性降低。若hadoop集群有两个NameNode节点,一个节点发生故障便可用另一个节点来代替,就可以解决无法持续提供服务的问题。
三、Hadoop高可用的配置(以搭建3个节点组成的Hadoop高可用模式集群为例)……p>
