Celery + Redis在不同文件中执行任务

时间:2018-05-15 15:04:35

标签: python celery

当我从命令行运行Celery时,我只能看到与Celery对象在同一文件中的任务,而不能看到其他文件中的任务。

项目结构如下:

celery_test
    celery_tasks
        __init__.py
        celery_app.py
        async
            __init__.py
            tasks.py
        marker
            __init__.py
            tasks.py

文件内容如下

celery_app.py

from __future__ import absolute_import
from celery import Celery

celery_application = Celery('celery_test', backend='redis://localhost', broker='redis://localhost')

@celery_application.task
def test_celery():
    print 4

任何tasks.py文件都有类似的内容

async/tasks.py

from __future__ import absolute_import
import time

from celery_tasks.celery_app import celery_application


@celery_application.task
def async_test():
    print 'Start async_test'
    time.sleep(3)
    print 'Finish async_test'

当我按如下方式运行Celery时

celery --app=celery_tasks.celery_app:celery_application worker -l debug

我得到以下

 -------------- celery@LAPTOP-HCR4G00Q v3.1.25 (Cipater)
---- **** -----
--- * ***  * -- Windows-10-10.0.16299
-- * - **** ---
- ** ---------- [config]
- ** ---------- .> app:         celery_test:0x6ff3f28
- ** ---------- .> transport:   redis://localhost:6379//
- ** ---------- .> results:     redis://localhost/
- *** --- * --- .> concurrency: 4 (prefork)
-- ******* ----
--- ***** ----- [queues]
 -------------- .> celery           exchange=celery(direct) key=celery


[tasks]
  . celery.backend_cleanup
  . celery.chain
  . celery.chord
  . celery.chord_unlock
  . celery.chunks
  . celery.group
  . celery.map
  . celery.starmap
  . celery_tasks.celery_app.test_celery

这只是与应用程序位于同一文件中的任务。

有关如何解决的任何建议?我真的需要按主题分离任务,因为它们很多,所以它们只在一个文件中。

1 个答案:

答案 0 :(得分:4)

我花了很多时间写这个问题,我刚刚解决了,所以我分享了解决方案,因为没有太多关于它的信息(或者至少我没有找到它)。

在定义Celery对象之后,我曾试图自动发现任务,但它没有用。我的最后一次尝试是以下列方式更改应用程序的名称并强制检测:

celery_application.autodiscover_tasks(['celery_tasks.async', 'celery_tasks.marker'], force=True)

celery_test/运行:

celery --app=celery_tasks.celery_app:celery_application worker -l info

这解决了我的问题。我希望这可以帮助你