在纱线客户端模式下将特定的环境变量传递给Spark执行程序

时间:2018-07-23 10:47:17

标签: java apache-spark executor

我们需要传递与集群中设置的默认值不同的JAVA_HOME,当在yarn client模式下使用spark-submit时,执行者仍在引用默认的JAVA_HOME,我们已经执行了以下操作,但没有执行它们起作用了(在代码中设置java.home,spark.executorEnv。[JAVA_HOME],spark.executor.extraLibraryPath)

我们可以在代码或配置文件中进行设置,以便执行者选择特定的变量。

0 个答案:

没有答案