标签: airflow
我需要一次处理一个文件中的多行记录。我最初想象的是Task-A将文件分成x批处理。将每个批次提交给任务B,以便B可以处理传入的批次(调用另一个REST端点)。我想知道在按顺序构造每批行时,是否有办法让一个任务(A)在循环中调用另一个任务(B)?因此B可以处理该批次。
如果没有,您是否有建议设计该批处理系统的更好方法?要求之一是能够在飞行中停止/启动此文件处理的能力,以及能够同时运行多个文件的能力。