用于芹菜单元测试的内存代理

时间:2014-03-06 19:06:48

标签: django celery kombu

我有一个用Django编写的REST API,其中和端点在发布芹菜任务时对其进行排队。响应包含任务ID,我想用它来测试任务是否已创建并获得结果。所以,我想做点什么:

def test_async_job():
    response = self.client.post("/api/jobs/", some_test_data, format="json")
    task_id = response.data['task_id']
    result = my_task.AsyncResult(task_id).get()
    self.assertEquals(result, ...)

我显然不想让芹菜工人去运行单元测试,我希望以某种方式嘲笑它。我不能使用CELERY_ALWAYS_EAGER,因为它似乎完全绕过了代理,阻止我使用AsyncResult通过其id获取任务(如here所述)。

通过celery和kombu docs,我发现单元测试有一个内存传输,可以做我正在寻找的东西。我尝试覆盖BROKER_URL设置以在测试中使用它:

@override_settings(BROKER_URL='memory://')
def test_async_job():

但行为与ampq代理相同:它会阻止测试等待结果。任何想法我应该如何配置这个代理以使其在测试中工作?

3 个答案:

答案 0 :(得分:12)

您可以在设置中指定broker_backend:

if 'test' in sys.argv[1:]:
    BROKER_BACKEND = 'memory'
    CELERY_TASK_ALWAYS_EAGER = True
    CELERY_TASK_EAGER_PROPAGATES = True

或者您可以直接在测试中使用装饰器覆盖设置

import unittest
from django.test.utils import override_settings


class MyTestCase(unittest.TestCase):

    @override_settings(CELERY_TASK_EAGER_PROPAGATES=True,
                       CELERY_TASK_ALWAYS_EAGER=True,
                       BROKER_BACKEND='memory')
    def test_mytask(self):
        ...

答案 1 :(得分:7)

您可以使用Kombu内存代理来运行单元测试,但是为此,您需要使用与Django服务器相同的Celery应用程序对象来启动Celery工作程序。

要使用内存代理,请将BROKER_URL设置为memory://localhost/

然后,为了培养小芹菜工人,您可以执行以下操作:

app = <Django Celery App>

# Set the worker up to run in-place instead of using a pool
app.conf.CELERYD_CONCURRENCY = 1
app.conf.CELERYD_POOL = 'solo'

# Code to start the worker
def run_worker():
    app.worker_main()

# Create a thread and run the worker in it
import threading
t = threading.Thread(target=run_worker)
t.setDaemon(True)
t.start()

您需要确保使用与Django芹菜应用程序实例相同的应用程序。

请注意,启动worker会打印很多内容并修改日志记录设置。

答案 2 :(得分:6)

这是一个与Celery 4.x一起使用的Django TransactionTestCase的功能更全面的示例。

import threading

from django.test import TransactionTestCase
from django.db import connections

from myproj.celery import app  # your Celery app


class CeleryTestCase(TransactionTestCase):
    """Test case with Celery support."""

    @classmethod
    def setUpClass(cls):
        super().setUpClass()
        app.control.purge()
        cls._worker = app.Worker(app=app, pool='solo', concurrency=1)
        connections.close_all()
        cls._thread = threading.Thread(target=cls._worker.start)
        cls._thread.daemon = True
        cls._thread.start()

    @classmethod
    def tearDownClass(cls):
        cls._worker.stop()
        super().tearDownClass()

请注意,这不会将您的队列名称更改为测试队列,因此如果您还在运行应用程序,那么您也希望这样做。