Spark挂起就没有运行任务的联合

时间:2017-03-03 21:23:46

标签: scala apache-spark union distributed

我有两个RDD [T]

类型的记录
For example:
val a: RDD[Integer] = ....
val b: RDD[Integer] = ...
when I perform
val z = a.union(b)
println(z)

我发现火花永远挂起

  

[第23阶段:=============================> (1   + 0)/ 2]

不确定为什么它会显示0个正在运行的任务。

环境:

Spark 1.6

Scala 2.11.6

a和b中的总记录数均为10条记录。这是一个小文件。

有没有人遇到这种情况,其中运行任务为零,火花挂起并永不结束。

0 个答案:

没有答案