Hadoop:将slave设置为显式reducer?

时间:2011-06-03 07:12:14

标签: map hadoop mapreduce reduce slave

我们在debian + ubuntu上使用hadoop多节点设置,并使用最新的稳定hadoop版本。是否可以将特定的从设备设置为减速器?我只使用一个reducer任务,我想将它分配给性能最佳的奴隶。 atm我们有1个主人,他只是将任务分配给奴隶和5个奴隶,其中一个比其他奴隶更强大。

提前致谢

1 个答案:

答案 0 :(得分:1)

通过在所有mapred.tasktracker.reduce.tasks.maximum文件中将conf/mapred-site.xml设置为0(除了要减少的一个节点除外),禁用所有其他节点上的reducer插槽。

或者,你可以为Fair Scheduler编写一个自定义的LoadManager类(参见this),但它还有很多工作要做。