Spark是否在崩溃恢复的工作节点上执行初始化代码

时间:2020-08-21 13:30:44

标签: apache-spark apache-spark-sql spark-structured-streaming

我想知道spark如何管理工作节点的崩溃恢复。

例如,如果我通过spark-submit作业在“ --files”参数中指定了一些jar文件,那么Spark会将它们分发到所有辅助节点。现在,当这些工作节点中的任何一个发生故障(即崩溃)时,会发生什么?辅助节点恢复后,spark是否会重新分发文件(在--files参数中指定)?

0 个答案:

没有答案