如何在cloudera集群中设置PIG_HEAPSIZE?

时间:2016-10-05 17:22:41

标签: hadoop apache-pig yarn cloudera cloudera-cdh

每次我从Oozie跑步时,我都有一个猪脚本。

错误:

Pig logfile dump:

猪堆痕迹

错误2998:未处理的内部错误。 Java堆空间

java.lang.OutOfMemoryError: Java heap space
        at java.lang.StringCoding$StringEncoder.encode(StringCoding.java:300)
        at java.lang.StringCoding.encode(StringCoding.java:344)
        at java.lang.StringCoding.encode(StringCoding.java:387)
        at java.lang.String.getBytes(String.java:956)

我尝试设置了许多参数但没有任何成功。

如果我导出PIG_HEAPSIZE = 4000,则从命令行运行相同的pig脚本。

感谢您的帮助!

1 个答案:

答案 0 :(得分:1)

可以通过在Oozie(Workflow.xml)脚本中添加以下两行来轻松完成:

<property>
     <name>oozie.launcher.mapred.child.java.opts</name>
     <value>-server -Xmx4G -Djava.net.preferIPv4Stack=true</value>
</property>

:)