什么是MapReduce

181 阅读2分钟

1.理解MapReduce思想

2.场景:如何模拟实现分布式计算

3.Hadoop MapReduce设计构思

1.理解MapReduce思想

1.核心思想

MapReduce的思想核心是“先分再合,分而治之”。

所谓“分而治之”就是把一个复杂的问题,按照一定的“分解”方法分为等价的规模较小的若干部分,然后逐个解决,分别找出各部分的结果,然后把各部分的结果组成整个问题的最终结果。

2.实现步骤

Map负责“拆分”:即把复杂的任务分解为若干个“简单的子任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算,彼此间几乎没有依赖关系

Reduce负责“合并”:即对map阶段的结果进行全局汇总

2.场景:如何模拟实现分布式计算

分布式计算是一种计算方法,和集中式计算是相对的

随着计算技术的发展,有些应用需要非常巨大的计算能力才能完成,如果采用集中式计算,需要耗费相当长的时间来完成

分布式计算将该应用分解成许多小的部分,分配给多台计算机进行处理。这样可以节约整体计算时间,大大提高计算效率

3.Hadoop MapReduce设计构思

1.构建抽象编程模型

首先Map阶段进行拆分,把大数据拆分成若干份小数据,多个程序同时并行计算产生中间结果;然后是Reduce聚合阶段,通过程序对并行的结果进行最终的汇总计算,得出最终的结果

不可拆分的计算任务或相互间有依赖关系的数据无法进行并行计算

MapReduce借鉴了函数式语言中的思想,用Map和Reduce两个函数提供了高层的并行编程抽象模型

map: 对一组数据元素进行某种重复式的处理;

reduce: 对Map的中间结果进行某种进一步的结果整理

Snipaste_2023-10-10_09-25-48.png

Snipaste_2023-10-10_09-25-57.png

MapReduce中定义了如下的Map和Reduce两个抽象的编程接口,由用户去编程实现:

map: (k1; v1) → (k2; v2)

reduce: (k2; [v2]) → (k3; v3)

通过以上两个编程接口,大家可以看出MapReduce处理的数据类型是<key,value>键值对

2.统一架构、隐藏底层细节

MapReduce最大的亮点在于通过抽象模型和计算框架把需要做什么(what need to do)与具体怎么做(how to do)分开了,为程序员提供一个抽象和高层的编程接口和框架