标签: hadoop mapreduce
在mapreduce中我知道mappers不会相互通信。 但是所有地图制作者都需要与所有减速器进行通信吗?
答案 0 :(得分:2)
它取决于映射器生成的键集。如果它没有产生任何需要由特定减速器处理的键,则可能根本不需要与该减速器通信。但是映射器生成的密钥通常取决于其输入,并且输入可能因作业而异,因此对于某些作业而言,每个映射器都需要将数据发送到每个reducer,这是可能的(甚至可能)