Zeppelin配置:某处有缓存吗?

时间:2016-09-22 17:40:25

标签: apache-zeppelin

似乎我在Zeppelin读取解释器特定配置的方式中遗漏了一些东西。

例如,我将spark.cores.max设置为zeppelin-env.sh中的12和spark-defaults.sh中的$SPARK_HOME/conf,但启动Spark解释器时启动的Spark应用程序只有4个核心。< / p>

然后我在Zeppelin的解释器UI中更改了该属性并且它工作了。

  • 使用存储的UI(网页)设置的属性在哪里?
  • 是UI应该是同步的&#39;使用zeppelin-env.shzeppelin-site.xml

1 个答案:

答案 0 :(得分:2)

这里有一个层次结构:

    UI中的
  • 参数(解释器)优先于zeppelin-env.sh;
  • 中指定的参数
  • zeppelin-env.sh中配置的参数优先于spark-defaults.sh中指定的参数;和,
  • 如果使用上述内容未指定任何内容,配置参数将回退到spark-defaults.sh中指定的参数。

这里有一个重要的二元性,关于任何火花应用的预期:

  • 在应用程序中显式设置的配置参数优先于使用spark-submit;
  • 指定的参数 使用spark-submit指定的
  • 参数优先于spark-defaults.sh中指定的参数;和,
  • 如果使用上述内容未指定任何内容,则配置参数将回退到spark-defaults.sh中指定的参数。

所以你所观察到的是预期的,虽然我也觉得它很混乱(并没有特别好记录在任何地方)。