Spark驱动程序死了,执行程序也会死掉吗?

时间:2018-01-29 22:19:35

标签: apache-spark driver executors

在spark 2.x中,如果驱动程序死了,执行程序也会死掉吗?如果是,如果重新启动,整个作业将再次从检查点目录开始参考?

1 个答案:

答案 0 :(得分:2)

驱动程序是Spark应用程序中的单点故障。如果驱动程序死亡,所有其他链接的组件也将被丢弃。

在使用检查点进行可靠性(流式传输)的应用程序中,可以使用检查点来恢复状态。请参阅:

了解详情。