如何使用spark-submit获得完整的输出

时间:2016-05-18 08:56:49

标签: apache-spark output

在Spark中启动spark-submit命令之后,我无法获得完整的输出,因为它太长而且超出了Cloudera控制台的输出。

如何配置Spark以在其他地方获取输出?

我试过在spark-env.sh中设置以下内容:

export SPARK_HISTORY_OPTS=-Dspark.history.fs.logDirectory=hdfs:///var/log/spark/apps

但是不起作用

0 个答案:

没有答案