在使用airflow 1.9.0
作为代理的CeleryExecutor
和redis
方面,我遇到了一些麻烦。
我需要完成一个需要6个多小时才能完成的工作,我正在失去芹菜工人。 在GitHub中查看气流代码,有一个硬编码配置:
我该如何绕过这个问题?
答案 0 :(得分:1)
这可以在airflow.cfg中的celery_broker_transport_options
部分下进行配置。
查看提交内容,添加这种可能性https://github.com/apache/incubator-airflow/commit/be79f87f36b6b99649e0a1f6ab92b41640b3beaa