亚马逊MapReduce没有减速机工作

时间:2009-12-31 14:26:23

标签: amazon-web-services hadoop mapreduce reducers

我正在尝试通过AWS(流媒体作业)创建一个仅限映射器的作业。 reducer字段是必需的,所以我给出一个虚拟可执行文件,并将-jobconf mapred.map.tasks = 0添加到Extra Args框中。在我安装的hadoop环境(版本0.20)中,不会启动任何reducer作业,但在AWS中,虚拟可执行文件启动并失败。

如何在AWS中运行no reducer / mapper作业?

2 个答案:

答案 0 :(得分:11)

你也可以使用cat或NONE作为reducer参数。

答案 1 :(得分:0)

无法在亚马逊M / R中创建仅限映射器的作业。 我正在使用Identity reducer(org.apache.hadoop.mapred.lib.IdentityReducer)。