YARN应用程序主用户界面-一段时间后会出现活动作业

时间:2018-07-26 08:58:41

标签: apache-spark apache-spark-sql

我正在运行一个spark应用程序(使用Livy提交scala代码)。该代码具有许多作为Spark.SQL数据框/数据集API的一部分执行的SQL。在执行过程中,当我监视Application Master UI中的作业时,我看到存在“已完成作业”列表,并且一段时间内没有任何活动。但是在大约1分钟的间隔后,将创建新的“活动”作业,并且它们很快完成。完成作业后,这些作业将添加到“已完成的作业”列表中。

根据以上行为,可以得出结论,执行器中的执行不是连续发生的吗?当看不到活动作业时,执行者是否没有做任何事情?为什么要花这么长时间才能创建和执行新的活动作业。有没有一种方法可以进一步调整此过程,以使活动作业保持运行,并且在两组活动作业之间没有滞后。

0 个答案:

没有答案