Spark Job Server多线程和动态分配

时间:2017-05-12 14:47:52

标签: apache-spark spark-jobserver

我对Spark Job Server有很大的期望,但发现其严重缺乏文档。

您能否回答以下一个/所有问题:

  1. Spark Job Server是否通过Spark会话提交作业?
  2. 是否可以与Spark Job Server并行运行少量作业? I saw people faced some troubles,我还没有看到解决方案。
  3. 是否可以与不同的CPU,内核,执行程序配置并行运行少量作业?

1 个答案:

答案 0 :(得分:1)

  1. Spark jobserver尚不支持SparkSession。我们将继续努力。
  2. 您可以创建多个上下文,也可以运行上下文来使用FAIR调度程序。
  3. 使用具有不同资源配置的不同上下文。
  4. 基本上,作业服务器只是用于创建火花上下文的rest API。所以你应该能够用火花上下文做你能做的事。