最小化多MapReduce任务总完工时间的分析模型及其应用
【出 处】:《
计算机工程与科学
》
CSCD
2014年第36卷第4期 571-578页,共8页
【作 者】:
田文洪
[1,2] ;
陈瑜
[2] ;
王心阳
[2] ;
薛瑞尼
[2] ;
赵勇
[2]
【摘 要】
随着大规模的MapReduce集群广泛地用于大数据处理,特别是当有多个任务需要使用同一个Hadoop集群时,一个关键问题是如何最大限度地减少集群的工作时间,提高MapReduce作业的服务效率。可将多个MapReduce作业当做一个调度任务建模,观察发现多个任务的总完工时间和任务的执行顺序有密切关系。研究目标是设计作业调度系统分析模型,最小化一批MapReduce作业的总完工时间。提出一个更好的调度策略和实现方法,使整个调度系统符合经典Johnson算法的条件,从而可使用经典Johnson算法在线性时间内获取总完工时间的最优解。同时,针对需要使用两个或多个资源池进行平衡的问题,提出了一种线性时间解决方案,优于已知的近似模拟方案。该理论模型可应用于提高系统响应速度、节能和负载均衡等方面,对应的应用实例提供了证实。
相关热词搜索:
上一篇:FT1500处理器中仿真驱动的DDR3封装设计
下一篇:最后一页