Spark设置非常新。我想为我运行的每个单独的Spark集群保留事件日志。在我的设置中,/history-logs
目录是根据群集名称从不同位置装入的。目录的权限允许Spark用户(751)进行读写。
$SPARK_HOME/conf/spark-defaults.conf
下用于主服务器和工作服务器的spark.eventLog.enabled true
spark.eventLog.dir file:///history-logs
spark.history.fs.logDirectory file:///history-logs
我正在从Zeppelin连接并运行一段简单的代码:
val rdd = sc.parallelize(1 to 5)
println(rdd.sum())
尽管没有文件写入该文件夹。
如果我在Zeppellin解释器本身中配置了类似的参数,至少我看到在目录中创建了应用程序日志文件。
是否可以按群集保存来自主/工作人员的日志?我可能缺少明显的东西。
谢谢!