获取hive脚本的_SUCCESS文件

时间:2012-10-26 07:25:58

标签: hadoop mapreduce workflow hive oozie

  

可能重复:
  Override hadoop’s mapreduce.fileoutputcommitter.marksuccessfuljobs in oozie

我正在尝试从oozie工作流程运行一个配置单元脚本。 “mapreduce.fileoutputcommitter.marksuccessfuljobs”属性已设置为true但是hive脚本会覆盖它,因此,我没有获得成功文件。有没有办法可以在我的配置单元脚本中配置相同的属性或以任何其他方式来克服这种情况?

<property>
<name>mapreduce.fileoutputcommitter.marksuccessfuljobs</name>
<value>true</value>
</property>

在作业跟踪器中,它表示hive的“mapreduce.fileoutputcommitter.marksuccessfuljobs”属性设置为true,但最终输出位置仍然没有_success文件

1 个答案:

答案 0 :(得分:3)

这是不可能的,因为hive会使用它自己的NullOutputCommitter覆盖OutputCommitter。请参阅此处的重复问题:

Override hadoop's mapreduce.fileoutputcommitter.marksuccessfuljobs in oozie