从Python属性文件中读取Celery配置

时间:2012-12-06 18:58:02

标签: python celery

我有一个需要初始化Celery和其他东西(例如数据库)的应用程序。我想有一个包含应用程序配置的.ini文件。这应该在运行时传递给应用程序。

development.init:

[celery]
broker=amqp://localhost/
backend=amqp://localhost/
task.result.expires=3600

[database]
# database config
# ...

celeryconfig.py:

from celery import Celery
import ConfigParser

config = ConfigParser.RawConfigParser()
config.read(...) # Pass this from the command line somehow

celery = Celery('myproject.celery',
                broker=config.get('celery', 'broker'),
                backend=config.get('celery', 'backend'),
                include=['myproject.tasks'])

# Optional configuration, see the application user guide.
celery.conf.update(
    CELERY_TASK_RESULT_EXPIRES=config.getint('celery', 'task.result.expires')
)

# Initialize database, etc.

if __name__ == '__main__':
    celery.start()

为了启动Celery,我打电话给:

celery worker --app=myproject.celeryconfig -l info

无论如何都要传递配置文件而不做像设置环境变量这样丑陋的事情吗?

2 个答案:

答案 0 :(得分:5)

好吧,我接受了乔丹的建议并使用了一个env变量。这是我在celeryconfig.py中获得的:

celery import Celery
import os
import sys
import ConfigParser

CELERY_CONFIG = 'CELERY_CONFIG'

if not CELERY_CONFIG in os.environ:
    sys.stderr.write('Missing env variable "%s"\n\n' % CELERY_CONFIG)
    sys.exit(2)

configfile = os.environ['CELERY_CONFIG']

if not os.path.isfile(configfile):
    sys.stderr.write('Can\'t read file: "%s"\n\n' % configfile)
    sys.exit(2)

config = ConfigParser.RawConfigParser()
config.read(configfile)

celery = Celery('myproject.celery',
                broker=config.get('celery', 'broker'),
                backend=config.get('celery', 'backend'),
                include=['myproject.tasks'])

# Optional configuration, see the application user guide.
celery.conf.update(
    CELERY_TASK_RESULT_EXPIRES=config.getint('celery', 'task.result.expires'),
)

if __name__ == '__main__':
    celery.start()

启动Celery:

$ export CELERY_CONFIG=development.ini
$ celery worker --app=myproject.celeryconfig -l info

答案 1 :(得分:3)

如何设置环境变量难看?您可以使用当前版本的应用程序设置环境变量,也可以根据主机名派生它,或者可以使构建/部署过程覆盖该文件,在开发时,您可以将development.ini复制到settings.ini在一般位置,在生产中,您将production.ini复制到settings.ini。

这些选项中的任何一个都很常见。使用诸如Chef或Puppet之类的配置管理工具来放置文件是一个不错的选择。