当资源不足时,火花作业将等待多长时间从纱线中获取资源?

时间:2019-04-24 08:09:51

标签: apache-spark yarn

当Spark作业无法获得足够的资源来启动时,它会挂在那里等待。

要等待多长时间?如何控制挂起的火花作业的超时?

谢谢

1 个答案:

答案 0 :(得分:1)

在YARN下,作业可以无限期地挂起以等待资源。但是,由于大型任务通常会分解成较小的任务,因此除非最小的任务超过了最大容器限制,否则通常不会阻止它们。