了解Spark UI的事件时间轴

时间:2018-06-15 09:20:06

标签: apache-spark pyspark spark-ui

我正在运行一个显示事件时间表的工作如下,我试图猜测这些单行之间的差距,它们似乎是平行但不能立即与其他阶段相连...

此处的任何其他见解,以及群集在这些差距中的作用是什么?enter image description here

2 个答案:

答案 0 :(得分:2)

没有任何代码可以看,盲目猜测是在那些差距期间,司机正在忙着做一些工作。如果您在驱动程序中执行(<HTMLInputElement>document.getElementById(component)).value = ''; .collect()或任何类型的本地处理,则执行程序将处于空闲状态,等待将工作分配给它们。

答案 1 :(得分:0)

请注意,在可视化中,您可以从下面的表格中看到任务。如果更改分页大小或表的排序,则可以看到实际模式。