将芹菜任务路由到特定队列

时间:2012-04-09 21:01:28

标签: python celery supervisord

我的服务器上运行了两个独立的celeryd进程,由supervisor管理。它们被设置为在不同的队列中监听:

[program:celeryd1]
command=/path/to/celeryd --pool=solo --queues=queue1
...

[program:celeryd2]
command=/path/to/celeryd --pool=solo --queues=queue2
...

我的celeryconfig看起来像这样:

from celery.schedules import crontab

BROKER_URL = "amqp://guest:guest@localhost:5672//"

CELERY_DISABLE_RATE_LIMITS = True
CELERYD_CONCURRENCY = 1
CELERY_IGNORE_RESULT = True

CELERY_DEFAULT_QUEUE = 'default'
CELERY_QUEUES = {
    'default': {
        "exchange": "default",
        "binding_key": "default",
    },
    'queue1': {
        'exchange': 'queue1',
        'routing_key': 'queue1',
    },
    'queue2': {
        'exchange': 'queue2',
        'routing_key': 'queue2',
    },
}

CELERY_IMPORTS = ('tasks', )

CELERYBEAT_SCHEDULE = {
    'first-queue': {
        'task': 'tasks.sync',
        'schedule': crontab(hour=02, minute=00),
        'kwargs': {'client': 'client_1'},
        'options': {'queue': 'queue1'},
    },
    'second-queue': {
        'task': 'tasks.sync',
        'schedule': crontab(hour=02, minute=00),
        'kwargs': {'client': 'client_2'},
        'options': {'queue': 'queue1'},
    },
}

所有tasks.sync任务必须路由到特定队列(因此​​芹菜进度)。但是当我尝试用sync.apply_async(kwargs={'client': 'value'}, queue='queue1')手动运行任务时,两个芹菜工人都会接受任务。如何将任务路由到正确的队列,并且只能由绑定到队列的worker运行?

1 个答案:

答案 0 :(得分:6)

你只运行一个celerybeat实例吗?

也许你有旧的队列绑定与此冲突? 尝试运行rabbitmqctl list_queuesrabbitmqctl list_bindings, 也许重置代理中的数据从头开始。

你在这里的例子应该有用,并且在我试用它时正在为我工​​作。

提示:由于您使用的是与队列名称相同的exchange和binding_key值, 您不必在CELERY_QUEUES中明确列出它们。当CELERY_CREATE_MISSING_QUEUES时 处于打开状态(默认情况下),队列将自动创建,就像您拥有的一样 如果您只是执行celeryd -Q queue1或将任务发送到未定义的队列。