apache spark异常历史记录已经存在

时间:2015-03-19 09:13:55

标签: apache-spark oozie yarn

我正在尝试使用oozie ssh动作在纱线群集上一个接一个地运行一组火花应用程序。每次特定的spark应用程序开始运行时,都会返回失败状态,抛出的异常是:

exception in thread "Driver" java.io.IOException : Log directory hdfs://xxx:8020/user/.../applicationHistory/aplication_...._.. already exists!

在堆栈跟踪中,我可以看到在我尝试在我的应用程序中创建SparkContext实例后抛出此异常。 由spark给出这个特定名称没有其他应用程序,所以我不明白该日志是否已经存在。 有人知道为什么这个应用程序名称已经有了日志吗?

1 个答案:

答案 0 :(得分:0)

您只能将目录用于日志路径。