我有一个兔子和芹菜的设置,工人在4台机器上运行,每台机器有4个实例。我定义了两个任务函数,它们基本上调用相同的后端函数,但其中一个名为process_transaction
,没有定义rate_limit,另一个名为slow_process_transaction
,rate_limit="6/m"
。任务将转到rabbitmq上的不同队列,slow
和normal
。
奇怪的是为两个任务强制执行rate_limit。如果我尝试使用celery.control.rate_limit
更改rate_limit,则使用process_transaction
执行此操作不会更改有效费率,并使用slow_process_transaction
名称更改两者的有效费率。
关于什么是错的任何想法?
答案 0 :(得分:6)
通过读取存储桶源代码,我发现芹菜通过在完成任务后休眠时间增量来实现速率限制,因此如果您在同一工作人员中混合具有不同速率限制的任务,则它们会相互影响。
分离工人解决了我的问题,但这不是最佳解决方案。
您可以在celeryd调用中使用节点名称和命名参数来分隔worker。例如,您有节点'fast'和'slow',并且您希望它们分别使用并发5和1的单独队列:
celeryd <other opts> -Q:fast fast_queue -c:fast 5 -Q:slow slow_queue -c:slow 1