王宝

（中国电信股份有限公司 上海企业信息化运营中心 上海市 201315）

1 前言

中国电信分布式小文件系统组件，包含了HDFS（Hadoop Distributed File System）的组件。在运维的生产系统中，存在多个节点使用HDFS 提供的分布式存储能力。物联网大数据平台存储的数据最终都落地在HDFS 集群DataNode 上存储，而HDP2.5(Hortonworks Data Platform）版本HDFS 集群只有一个主管理节点，元数据量伴随着海量数据增长存储不断增大，最终会引起管理节点NameNode 性能减低，运行不稳定进程宕机重启，上层承载的MR2和Hbase 等应用服务能力降级，进而影响这个集群的稳定性和可用性，降低集群整体服务水平和客户感知。

现有集团其中一个物联网计费大数据平台管理的业务数据1.8PB、元数据量峰值近1 亿，此时HDFS 的管理节点NameNode频繁出现宕机已经有4 次。为应对这种情况，需要对HDFS 集群的NameNode 节点进行特殊保护，采取配置参数优化、算法调整和性能调优等一系列措施，实现NameNode 的高可用性和强伸缩性，为大数据平台提供高效稳定的分布式HDFS 存储能力。

2 HDFSNameNode功能和HA with QJM的主要原理

2.1 HDFSNameNode功能介绍

在Hadoop 大数据应用平台架构中，HDFS 作为底层的存储能力提供者，支撑着Hbase、mapreduce 等组件的正常运行。NameNode 节点会维护存储节点的状态，定时心跳检测DataNode的存活情况，同时接收DataNode 的块数据信息上报，更新本地的元数据管理信息。

HDFS 集群主要由管理文件系统元数据的NameNode 功能单元和存储实际数据的DataNode 功能节点组成。

在图1架构中，描述了NameNode、DataNode 和客户机之间的基本交互流程。客户机联系NameNode 以获取文件元数据或文件修改，并直接使用DataNodes 执行实际的文件读写操作。……