我已经创建了示例DAG,其中我有DAG配置,如下所示。
default_args = {
'owner': 'airflow',
'depends_on_past': False,
'start_date': one_min_ago,
'email': ['admin@airflow.com'],
'email_on_failure': True,
'email_on_retry': True,
'retries': 5,
'retry_delay': timedelta(hours=30))
当我运行气流网络服务器时,我会收到以下信息。
/home/af_user/anaconda/lib/python3.5/site-packages/flask/exthook.py:71:
ExtDeprecationWarning: Importing flask.ext.cache is deprecated, use
flask_cache instead.
.format(x=modname), ExtDeprecationWarning
[2017-12-18 12:41:27,967] [17328] {models.py:167} INFO - Filling up the
DagBag from /home/af_user/airflow/dags
[2017-12-18 12:41:28 +0000] [16648] [INFO] Handling signal: ttou
[2017-12-18 12:41:57 +0000] [16655] [INFO] Worker exiting (pid: 16655)
此外,DAG只会处于运行状态。
让我知道是否曾经遇到过这个问题并已经修好了。
答案 0 :(得分:9)
预计会有这些消息。 ttou
(和ttin
)信号用于刷新网络服务器的gunicorn工作者,以便它获取DAG更改。您可以使用worker_refresh_interval
和worker_refresh_batch_size
气流配置值修改或禁用此行为。
答案 1 :(得分:0)
如果没有充分的理由,我真的不想更改worker_refresh_interval
或worker_refresh_batch_size
。另一种方法是设置环境变量:
GUNICORN_CMD_ARGS="--log-level WARNING"
如果在docker-compose.yml
文件中进行设置,则使用apache-airflow == 1.10.6和gunicorn == 19.9.0进行以下测试:
environment:
- 'GUNICORN_CMD_ARGS=--log-level WARNING'
如果在Dockerfile
中进行设置,则使用apache-airflow == 1.10.6和gunicorn == 19.9.0进行以下测试:
ENV GUNICORN_CMD_ARGS --log-level WARNING