我在HDInsight上使用Livy将作业提交给Spark集群。我将我的代码编写并编译成JAR,但它有多个依赖项,其中一些来自自定义存储库。
如何让Livy自行解决这些依赖关系?我不想提交一个胖罐,因为依赖性总是在变化,我不喜欢所涉及的操作。
答案 0 :(得分:1)
您可能希望将spark.jars.ivy
作为参数传递。请参阅here
您可以在/批处理POST正文中传递Livy支持的任何内容:https://spark.apache.org/docs/latest/configuration.html