预期行为
除非有人删除,否则气流日志将保留。
实际行为
间歇性气流任务日志丢失。
信息
版本:1.10.4
执行者:芹菜执行者
具有Docker Web服务器和调度程序的单个EC2实例+托管在不同EC2上的多个Celery Worker +用于RabbitMQ + RDS的单个EC2
我已经配置了一些DAG使其重试多次,因为这种情况是4次。从图片中可以看到,3次重试失败,第4次成功。我想我可以在Airflow Web UI中看到每次重试的所有日志。 但是第二次和第三次重试的日志消失了,并显示以下错误
Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url: http://xx.xx.xx.xx:xxxx/log/xxx/xxx/2020-06-03T08:00:00+00:00/3.log
我还注意到这不是唯一具有这种行为的DAG,其他DAG也具有相同的模式,只是有些显示了秒和第四次重试的日志,而丢失的是第一和第三次重试。
重现行为的步骤
重试至少3次,您将看到其中一个日志丢失。
日志存在
缺少日志
有人知道吗?