使用不同时间间隔的任务运行DAG

时间:2019-07-16 14:50:37

标签: airflow directed-acyclic-graphs airflow-scheduler

我有3个任务,A,B和C。我只想运行一次任务A,然后每月运行一次任务B,直到end_date,然后只运行一次任务C进行清理。

这类似于此问题,但不适用。 How to handle different task intervals on a single Dag in airflow?

感谢您的帮助

1 个答案:

答案 0 :(得分:1)

对于应该仅运行一次的任务A,您可以从here那里获得启发


就任务B和C而言,可以使用ShortCircuitOperator(如您引用的link中所述)将它们与A捆绑在一起

                   -> B
                 /
A -> ShortCircuit
                 \
                   -> C

或者,您可以使用AirflowSkipException

在内部跳过B和C