每个批次的循环气流运行任务

时间:2020-08-31 20:07:23

标签: airflow

我需要一次处理一个文件中的多行记录。我最初想象的是Task-A将文件分成x批处理。将每个批次提交给任务B,以便B可以处理传入的批次(调用另一个REST端点)。我想知道在按顺序构造每批行时,是否有办法让一个任务(A)在循环中调用另一个任务(B)?因此B可以处理该批次。

如果没有,您是否有建议设计该批处理系统的更好方法?要求之一是能够在飞行中停止/启动此文件处理的能力,以及能够同时运行多个文件的能力。

0 个答案:

没有答案