Airflow 1.10.1在哪里为它的三个服务(Web服务器,调度程序和工作程序)存储日志

时间:2019-02-27 06:12:30

标签: celery airflow airflow-scheduler

我们最近从1.8升级到Airflow 1.10.1,我们发现Airflow服务不再在/ var / log / airflow中写入日志

我们使用自定义命令来运行气流服务,即使那些命令也不会写入命令中指定的日志文件中:-

nohup气流调度程序-sd / usr / airflow / DAGS --stdout / dev / null --stderr scheduler_error.log> / dev / null 2> nohup_error.log&

nohup气流网络服务器-p 8080 --stdout / dev / null --stderr /usr/airflow/airflow_webserver_error.log --error_logfile-> / dev / null 2> /usr/airflow/nohup_airflow_webserver.log&

scheduler_error.log和airflow_webserver_error.log文件保持空白。

服务记录机制是否在气流中中断?

感谢您的帮助。

2 个答案:

答案 0 :(得分:1)

注意:这并不是真正的答案,而只是我在Airflow

方面的有限经验

最近,我也为登录Airflowv1.10.2)的奥秘所困扰。根据我的使用经验(LocalExecutor),这就是我所知道的(如果我输入错了,请纠正我

  • Web服务器日志:我从未找到任何明确命名为“ webserver_logs” (或类似名称)的目录/文件。当然,调用Linux命令时,您会在(airflow webserver shell 上得到一些东西。但是,由于DAG的解析当前是由webserver process (签出this线程和AIP-12)完成的,因此可以在{{ 1}}(惊喜,它在base_log_folder/scheduler/date/path/to/your_file.py.log文件夹中)。正如 @Chirrut Imwe 所指出的那样,默认情况下"scheduler" points to base_log_folder

  • 计划程序日志:除了使用AIRFLOW_HOME/logs命令启动它时在外壳上看到的线条外,我不知道它们的下落。

  • 任务日志:位于airflow scheduler。当然,您可以使用base_log_folder/dag_id/task_id/date_time/1.log按钮(在点击View Log气泡之后)直接看到它们on the WebUI

  • 工作日志:由于我在task上,所以从未遇到过。但是您可以尝试从puckel/docker-airflow那里获得提示,那里也为LocalExecutor提供了


UPDATING.md页上有很多日志记录内容

答案 1 :(得分:0)

您检查了$ AIRFLOW_HOME / logs /吗?