在Hadoop mapreduce中,所有映射器是否需要与所有reducer进行通信?

时间:2014-09-24 01:09:01

标签: hadoop mapreduce

在mapreduce中我知道mappers不会相互通信。 但是所有地图制作者都需要与所有减速器进行通信吗?

1 个答案:

答案 0 :(得分:2)

它取决于映射器生成的键集。如果它没有产生任何需要由特定减速器处理的键,则可能根本不需要与该减速器通信。但是映射器生成的密钥通常取决于其输入,并且输入可能因作业而异,因此对于某些作业而言,每个映射器都需要将数据发送到每个reducer,这是可能的(甚至可能)