我们在Cloud Composer中有几个Airflow DAG,它们以前运行良好。 DAG和操作员的代码未更改,但是在最近部署之后,我们现在从DAG中得到了以下错误:
损坏的DAG:[...]关系可以 仅在运营商之间设置;收到了PythonOperator
同样,DAG已有几周没有更改,并且以前可以正常工作。
PythonOperator
中有Airflow提供的PythonOperator,其导入方式如下:
from airflow.operators.python_operator import PythonOperator
并在DAG中这样使用:
OPERATOR_READ_HEADER = PythonOperator(
task_id='read_header',
params={'object_name': 'dependencies/MT940 Header.txt'},
python_callable=read_object,
provide_context=True
)
SENSOR_INPUT_FILE_PROVIDED >> OPERATOR_READ_HEADER
为什么会开始出现此错误?
这是在Google Cloud Composer中的气流1.9.0-composer
上。
答案 0 :(得分:2)
在composer-1.4.2版本中引入了一个错误,该错误现已修复,请尝试创建一个新的Composer环境,并且DAG错误应该消失。同时,我们还将在接下来的几天中自动将该修补程序自动应用到现有的1.4.2环境中。