气流在1分钟后杀死我的任务

时间:2017-10-17 16:24:26

标签: python airflow directed-acyclic-graphs apache-airflow

我有一个非常简单的DAG,有两个任务,如下所示:

default_args = {
    'owner': 'me',
    'start_date': dt.datetime.today(),
    'retries': 0,
    'retry_delay': dt.timedelta(minutes=1)
}

dag = DAG(
    'test DAG',
    default_args=default_args,
    schedule_interval=None
)

t0 = PythonOperator(
    task_id="task 1",
    python_callable=run_task_1,
    op_args=[arg_1, args_2, args_3],
    dag=dag,
    execution_timeout=dt.timedelta(minutes=60)
)

t1 = PythonOperator(
    task_id="task 2",
    python_callable=run_task_2,
    dag=dag,
    execution_timeout=dt.timedelta(minutes=60)
)

t1.set_upstream(t0)

但是,当我运行它时,我会在日志中看到以下内容:

  

[2017-10-17 16:18:35,519] {jobs.py:2083}信息 - 任务退出   返回代码-9

没有任何其他有用的错误日志。以前有人见过吗?我错误地定义了DAG吗?任何帮助赞赏!

2 个答案:

答案 0 :(得分:2)

如果任务容器没有足够的内存来执行任务,它将失败并显示错误代码-9。 https://www.astronomer.io/guides/dag-best-practices/

答案 1 :(得分:0)

您使用的是哪种版本的气流?
从1.8开始,气流是动态start_date https://github.com/apache/incubator-airflow/blob/master/UPDATING.md#less-forgiving-scheduler-on-dynamic-start_date上不太宽容的调度程序。
尽量给出具体日期。