我的服务器上运行了两个独立的celeryd进程,由supervisor
管理。它们被设置为在不同的队列中监听:
[program:celeryd1]
command=/path/to/celeryd --pool=solo --queues=queue1
...
[program:celeryd2]
command=/path/to/celeryd --pool=solo --queues=queue2
...
我的celeryconfig看起来像这样:
from celery.schedules import crontab
BROKER_URL = "amqp://guest:guest@localhost:5672//"
CELERY_DISABLE_RATE_LIMITS = True
CELERYD_CONCURRENCY = 1
CELERY_IGNORE_RESULT = True
CELERY_DEFAULT_QUEUE = 'default'
CELERY_QUEUES = {
'default': {
"exchange": "default",
"binding_key": "default",
},
'queue1': {
'exchange': 'queue1',
'routing_key': 'queue1',
},
'queue2': {
'exchange': 'queue2',
'routing_key': 'queue2',
},
}
CELERY_IMPORTS = ('tasks', )
CELERYBEAT_SCHEDULE = {
'first-queue': {
'task': 'tasks.sync',
'schedule': crontab(hour=02, minute=00),
'kwargs': {'client': 'client_1'},
'options': {'queue': 'queue1'},
},
'second-queue': {
'task': 'tasks.sync',
'schedule': crontab(hour=02, minute=00),
'kwargs': {'client': 'client_2'},
'options': {'queue': 'queue1'},
},
}
所有tasks.sync
任务必须路由到特定队列(因此芹菜进度)。但是当我尝试用sync.apply_async(kwargs={'client': 'value'}, queue='queue1')
手动运行任务时,两个芹菜工人都会接受任务。如何将任务路由到正确的队列,并且只能由绑定到队列的worker运行?
答案 0 :(得分:6)
你只运行一个celerybeat实例吗?
也许你有旧的队列绑定与此冲突?
尝试运行rabbitmqctl list_queues
和rabbitmqctl list_bindings
,
也许重置代理中的数据从头开始。
你在这里的例子应该有用,并且在我试用它时正在为我工作。
提示:由于您使用的是与队列名称相同的exchange和binding_key值,
您不必在CELERY_QUEUES中明确列出它们。当CELERY_CREATE_MISSING_QUEUES时
处于打开状态(默认情况下),队列将自动创建,就像您拥有的一样
如果您只是执行celeryd -Q queue1
或将任务发送到未定义的队列。