我们在debian + ubuntu上使用hadoop多节点设置,并使用最新的稳定hadoop版本。是否可以将特定的从设备设置为减速器?我只使用一个reducer任务,我想将它分配给性能最佳的奴隶。 atm我们有1个主人,他只是将任务分配给奴隶和5个奴隶,其中一个比其他奴隶更强大。
提前致谢
答案 0 :(得分:1)
通过在所有mapred.tasktracker.reduce.tasks.maximum
文件中将conf/mapred-site.xml
设置为0(除了要减少的一个节点除外),禁用所有其他节点上的reducer插槽。
或者,你可以为Fair Scheduler编写一个自定义的LoadManager类(参见this),但它还有很多工作要做。