一种混合计算环境下的MapReduce并行模型
【出 处】:
【作 者】:
唐兵
[1] ;
贺海武
[2]
【摘 要】
提出了一种混合计算环境下的MapReduce并行计算模型,利用该模型可以将高性能集群节点与Internet或Intranet下异构的桌面PC组成混合计算环境,在该混合环境下运行MapReduce任务进行海量数据分析处理,充分利用了大规模桌面PC的计算与存储能力.与Hadoop类似,该模型分为存储层和任务层两层.对该模型及其核心的HybridDFS分布式文件系统和MapReduce算法进行了简单描述,进而设计并实现了一个原型系统,并对其进行了性能测试.测试结果表明,提出的混合计算模型不仅能够实现可靠的MapReduce计算,而且降低了计算的成本开销,具有非常大的潜力.
相关热词搜索: 混合计算环境 MapReduce 志愿计算 容错 分布式文件系统 hybrid computing environment MapReduce volunteer computing fault-tolerance dis- tributed file system