使用--conf提交作业不起作用

时间:2015-04-23 08:09:55

标签: apache-spark

我尝试使用" spark.driver.extraJavaOptions"将 jmx 添加到我的 spark执行器。我已将--conf "spark.executor.extraJavaOptions=\"my Options\""放入我的sumbit文件,开始工作,验证此配置是否在webUI上可见。然后我用 netstat -an 验证了 jmx ,并且没有侦听我指定的端口。然后我在 spark-defaults.conf 中添加了相同的选项,一切正常。

我做错了什么?

我也试过--conf "\"spark.executor.extraJavaOptions=my Options\""同样的效果。

2 个答案:

答案 0 :(得分:0)

尝试\\而不是\它可能会起作用。 另外,检查代码中使用.setConf()方法设置配置是否解决了问题。

答案 1 :(得分:0)

我尝试过的只是最简单的解决方案:

--conf "spark.executor.extraJavaOptions=my Options"

现在一切都运转良好。