APP下载

基于KNN的HDFS副本放置策略研究

2021-08-19史爱武张煜

现代计算机 2021年21期
关键词:策略

史爱武,张煜

(武汉纺织大学数学与计算机学院,武汉430200)

0 引言

由于本世纪信息化的蓬勃发展,互联网上的数据呈爆炸式增长,信息化迎来了第三次浪潮[1]。面对海量的文件数据,一个好的文件系统是支持大数据应用的基础。Hadoop作为GFS的开源实现,由于其强大的影响力在大数据行业的应用越来越广泛。Hadoop由许多元素组成,它的底层文件系统是HDFS,配合上层的MapReduce并行计算引擎,可以完成海量数据的并行计算。考虑到集群是由廉价设备组成,节点发生故障被认为是常态。为此HDFS采用了在多个节点上存放副本的方式,来保障系统的容错性和高可用性[2]。若选择的节点是集群上的一个子集,会导致新的更可能被引用的副本数据过于集中,降低了集群的可用性。若选择的节点负载过高,又会影响文件的写入速度。因此,副本的放置策略成为了一项值得研究的课题。

1 HDFS副本策略相关研究

HDFS集群是一个主/从体系结构,由名称节点以及众多的数据节点组成[3]。名称节点作为主节点负责存储系统的名称空间,数据节点则存储系统的文件副本。当客户端上传文件到集群中时,首先向名称节点发送上传请求。名称节点同意上传后,客户端请求上传文件的第一个Block。名称节点根据副本放置策略选出满足条件的副本放置节点,返回给客户端。客户端请求第一个节点上传数据,节点依次跟后面的节点建立通信管道。数据沿着管道依次上传,第一个Block上传完成后,客户端继续请求上传第二个block,直到文件的最后一个Block上传完成。……

登录APP查看全文

猜你喜欢

策略
基于“选—练—评”一体化的二轮复习策略
例谈未知角三角函数值的求解策略
我说你做讲策略
“我说你做”讲策略
高中数学复习的具体策略
“唱反调”的策略
价格调整 讲策略求互动
2016年理财策略——少折腾
Passage Four