大数据复习(第四章)

第四章

MapReduce百科
MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念"Map(映射)“和"Reduce(归约)”,是它们的主要思想,都是从函数式编程语言里借来的,还有从矢量编程语言里借来的特性。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。 当前的软件实现是指定一个Map(映射)函数,用来把一组键值对映射成一组新的键值对,指定并发的Reduce(归约)函数,用来保证所有映射的键值对中的每一个共享相同的键组
在这里插入图片描述
1.MapReduce 程序设计 (P93)
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
2.完整的MapReduce编程模型(96)
基于以上的 Mapreduce程序示例,添加了 Combiner(联合)和 Partitioner(划分)处理后,图4-2所示的 Mapreduce并行编程模型将进一步演变为如图4-4所示完整的 MapReduce并行编程模型。
在这里插入图片描述
3.作业调度器(p103)
(1)先进先出(FIFO)调度器
在这里插入图片描述
(2)计算能力调度器
在这里插入图片描述
在这里插入图片描述
(3)公平调度器
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/lpblog/article/details/121322524