如何向Livy提交具有依赖关系的jAR?

时间:2017-04-19 11:17:45

标签: maven apache-spark hdinsight livy

我在HDInsight上使用Livy将作业提交给Spark集群。我将我的代码编写并编译成JAR,但它有多个依赖项,其中一些来自自定义存储库。

如何让Livy自行解决这些依赖关系?我不想提交一个胖罐,因为依赖性总是在变化,我不喜欢所涉及的操作。

1 个答案:

答案 0 :(得分:1)

您可能希望将spark.jars.ivy作为参数传递。请参阅here

您可以在/批处理POST正文中传递Livy支持的任何内容:https://spark.apache.org/docs/latest/configuration.html