在zeppelinUI中调用jar的main方法(spark-submit)

时间:2017-03-08 06:37:42

标签: apache-spark hortonworks-data-platform apache-zeppelin

我有一个主要方法" myMain"在" myJar.jar"(我在Zeppelin UI的spark解释器中加载了这个依赖项)。我已经在spark解释器中设置了所有其他火花配置。

现在我想提交一个spark-submit作业,其中包含zeppelin UI中myMain类所需的参数。

类似(在zeppelin UI中)(假设我的类采用-i,-o,-c参数): --class myMain myJar.jar -i input -o output -c configFile

1 个答案:

答案 0 :(得分:0)

我刚刚阅读了spark interpreter documentation,但我找不到在UI中提交火花罐的方法。

您可以在SPARK_SUBMIT_OPTIONS

中使用conf/zeppelin-env.sh,而不是

更多细节

  • 如果您在没有spark提交选项的情况下运行spark解释器,Zeppelin将执行包含本地spark的RemoteInterpreterServer
  • 但如果您在SPARK_SUBMIT_OPTIONS中设置zeppelin-env.sh,则Zeppelin将启动SparkSubmit进程。

您可以在终端执行jps命令进行检查。

99212 RemoteInterpreterServer
96926 ZeppelinServer