Django和Celery:未导入的任务

时间:2013-01-23 23:29:06

标签: django celery django-celery kombu

我正在使用Django和Celery在后台运行与联系人/电子邮件解析相关的两个任务。

结构是:

project
   /api
   /core
       tasks.py
   settings.py

settings.py文件包含:

BROKER_URL = 'django://'
BROKER_BACKEND = "djkombu.transport.DatabaseTransport"

#celery
BROKER_HOST = "localhost"
BROKER_PORT = 5672
BROKER_USER = "guest"
BROKER_PASSWORD = "guest"
BROKER_VHOST = "/"

sys.path.append(os.path.dirname(os.path.basename(__file__)))
CELERY_IMPORTS = ['project.core.tasks']

import djcelery
djcelery.setup_loader()

# ....

INSTALLED_APPS = (
    #...

    'kombu.transport.django',
    'djcelery',
)

tasks.py包含:

from celery.task import Task
from celery.registry import tasks

class ParseEmails(Task):
    #...

class ImportGMailContactsFromGoogleAccount(Task):
    #...

tasks.register(ParseEmails)
tasks.register(ImportGMailContactsFromGoogleAccount)

另外,在wsgi.py

中添加
os.environ["CELERY_LOADER"] = "django"

现在,我将此应用程序托管在WebFactional服务器上。在我的localhost上运行正常,但在WebFaction服务器上,Django应用程序部署在Apache服务器上,我得到:

2013-01-23 17:25:00,067: ERROR/MainProcess] Task project.core.tasks.ImportGMailContactsFromGoogleAccount[df84e03f-9d22-44ed-a305-24c20407f87c] raised exception: Task of kind 'project.core.tasks.ImportGMailContactsFromGoogleAccount' is not registered, please make sure it's imported.

但是这些任务显示为已注册。如果我跑

python2.7 manage.py celeryd -l info

我获得:

 -------------- celery@web303.webfaction.com v3.0.13 (Chiastic Slide)
---- **** ----- 
--- * ***  * -- [Configuration]
-- * - **** --- . broker:      django://localhost//
- ** ---------- . app:         default:0x1e55350 (djcelery.loaders.DjangoLoader)
- ** ---------- . concurrency: 8 (processes)
- ** ---------- . events:      OFF (enable -E to monitor this worker)
- ** ---------- 
- *** --- * --- [Queues]
-- ******* ---- . celery:      exchange:celery(direct) binding:celery
--- ***** ----- 

[Tasks]
  . project.core.tasks.ImportGMailContactsFromGoogleAccount
  . project.core.tasks.ParseEmails

我认为这可能是一个相对导入错误,但我认为settings.py和wsgi.py中的更改会阻止它。

我认为WebFactional支持的多个Python版本可能与此有关,但我安装了Python 2.7的所有库,我也运行Django for 2.7,所以应该没有问题。

使用celeryd -l info在localhost中运行当我启动worker时,Tasks也显示在列表中,但是当我调用任务时它不会输出错误 - 它运行得很完美。

谢谢

1 个答案:

答案 0 :(得分:2)

我在新的Ubuntu 12.04 / Apache / mod_wsgi / Django 1.5 / Celery 3.0.13生产环境中遇到了同样的问题。我的Mac OS X 10.8笔记本电脑和旧服务器(有Celery 3.0.12)上的一切正常,但新服务器上没有。

似乎Celery存在一些问题: https://github.com/celery/celery/issues/1150

我的初始解决方案是将基于任务类的任务更改为@task decorator,基于以下内容:

class CreateInstancesTask(Task):
    def run(self, pk):
        management.call_command('create_instances', verbosity=0, pk=pk)
tasks.register(CreateInstancesTask)

这样的事情:

@task()
def create_instances_task(pk):
    management.call_command('create_instances', verbosity=0, pk=pk)

现在这项任务似乎有效,但我当然要做进一步的测试......