气流-上次运行不正确

时间:2019-07-25 14:16:21

标签: airflow airflow-scheduler

我刚刚运行了DAG。当我看到气流的上次运行日期时,它将显示上次但最后一次运行的日期。当我将鼠标悬停在显示正确日期的“ i”图标上时,它引起了我的注意。有什么办法解决这个问题?听起来像胡说八道,但最终我将其用于数据质量检查。

enter image description here

1 个答案:

答案 0 :(得分:0)

这可能是因为您的气流作业已启用catchup=True,并且过去已启用start_date,所以它是回填作业。

“开始日期”是上一次运行的实时日期,而“最后一次运行”是气流作业的执行日期。例如,如果我用从2016-01-01到现在的数据回填时间分区表,则“开始日期”将是当前日期,而“上次运行”日期将是2016-01-01。

请在以后添加您的DAG文件/代码。

编辑:如果您没有启用catchUp=True,并且差异大约是一天(如您发送的图片中所示),那仅仅是由于调度程序的行为。在docs中,“计划程序会在开始日期之后的那个周期结束后的一个schedule_interval内运行您的作业。”

如果您在一天的schedule_interval上运行DAG,则将在2016-01-01T23:59之后不久触发加盖2016-01-01的运行。换句话说,作业实例涵盖的时间段结束后,便开始启动。