Spark Master / Worker未在History Server配置中写入日志

时间:2019-04-01 11:46:14

标签: apache-spark apache-zeppelin

Spark设置非常新。我想为我运行的每个单独的Spark集群保留事件日志。在我的设置中,/history-logs目录是根据群集名称从不同位置装入的。目录的权限允许Spark用户(751)进行读写。

$SPARK_HOME/conf/spark-defaults.conf下用于主服务器和工作服务器的配置文件如下:

spark.eventLog.enabled true
spark.eventLog.dir file:///history-logs
spark.history.fs.logDirectory file:///history-logs

我正在从Zeppelin连接并运行一段简单的代码:

val rdd = sc.parallelize(1 to 5)
println(rdd.sum())

尽管没有文件写入该文件夹。

如果我在Zeppellin解释器本身中配置了类似的参数,至少我看到在目录中创建了应用程序日志文件。

是否可以按群集保存来自主/工作人员的日志?我可能缺少明显的东西。

谢谢!

0 个答案:

没有答案