间歇性气流日志丢失

时间:2020-06-12 04:44:52

标签: logging celery airflow airflow-worker

预期行为

除非有人删除,否则气流日志将保留。

实际行为

间歇性气流任务日志丢失。

信息

版本:1.10.4

执行者:芹菜执行者

具有Docker Web服务器和调度程序的单个EC2实例+托管在不同EC2上的多个Celery Worker +用于RabbitMQ + RDS的单个EC2

我已经配置了一些DAG使其重试多次,因为这种情况是4次。从图片中可以看到,3次重试失败,第4次成功。我想我可以在Airflow Web UI中看到每次重试的所有日志。 但是第二次和第三次重试的日志消失了,并显示以下错误

Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url: http://xx.xx.xx.xx:xxxx/log/xxx/xxx/2020-06-03T08:00:00+00:00/3.log

我还注意到这不是唯一具有这种行为的DAG,其他DAG也具有相同的模式,只是有些显示了秒和第四次重试的日志,而丢失的是第一和第三次重试。

重现行为的步骤

重试至少3次,您将看到其中一个日志丢失。

日志存在

1-ok 4-ok

缺少日志

2-missinglog 3-missinglog

有人知道吗?

0 个答案:

没有答案