APP下载

Hadoop中任务调度算法的改进

2012-09-26苏小会何婧媛

电子设计工程 2012年22期

苏小会,何婧媛

(西安工业大学 计算机科学与工程学院,陕西 西安 710032)

云计算技术发展到现在,已经出现了很多云计算的软件平台,但是功能强、性能稳定的基本都是商业软件,目前只有Hadoop是可实现大规模分布式计算的开源软件平台[1],因此对于Hadoop的应用和研究也最多。

Hadoop旨在构建一个具有高可靠性和良好扩展性的分布式系统,在很多大型网站上都已经得到了应用,可以说是目前最为广泛应用的开源云计算软件平台[1]。Hadoop有以下优点:扩容能力强、成本低廉、效率高、高可靠性、免费开源及良好的可移植性。

Hadoop0.20.0中的任务调度算法包括FIFO调度算法(First In First Out)、公平调度算法(Fair Scheduler)和计算能力调度算法(Capacity Scheduler)。FIFO算法的整体性能和系统资源的利用率不高;公平调度算法负载不均衡,系统的响应时间长,配置文件的好坏影响整个系统的性能;计算能力调度算法中队列设置和队列组无法自动进行从而影响系统整体性能的提高。因此对于Hadoop中任务调度算法的改进和优化一直就没有停息,文中根据对任务执行过程的实时监控,依据任务执行结果放的反馈,动态调整后续任务的分配和执行,在现有任务调度算法的基础上提出一种基于改进遗传算法(IGA)的任务调度算法,该算法最大特点是利用遗传算法的群体搜索技术使得群体进化到包含或接近最优解,从而解决现有任务调度算法收敛速度慢、任务完成时间长、负载不均、资源利用率低、系统整体性能低等缺点。

1 问题分析

任务调度算法作为Hadoop平台的核心技术之一,直接关系到Hadoop平台的整体性能和对系统资源的利用,本文的研究目标是改进和完善任务调度算法以提高平台的整体性能和系统资源使用率。……

登录APP查看全文