用户lib jar优先于oozie共享lib中的spark动作

时间:2018-02-10 04:48:35

标签: java apache-spark jvm classloader oozie

以下选项是在纱线群集上运行时为用户jar优先于oozie共享lib jar的最佳方法(以解决类冲突问题)?

<property>
    <name>oozie.launcher.mapreduce.user.classpath.first</name>
    <value>true</value>
</property> 

有关详细信息,请Apache Oozie ebook

1 个答案:

答案 0 :(得分:1)

是的,您可以使用此选项,但有时在运行作业时会出现意外错误,如果jars版本与yarn / spark集群库不兼容(例如,某些方法可能会在最新版本中删除)。