如何在主Django应用程序进程中访问Celery任务的结果?或者,如何从单独的进程发布到现有套接字连接?
我有一个用户收到分数的应用程序。记录分数时,进行计算(目标进展等),并根据这些计算将通知发送给感兴趣的用户。计算可能需要30s +,因此为了避免缓慢的UI,这些操作是通过Celery任务在后台进程中执行的,由我的Score模型的post_save信号调用。
理想情况下,我的Nofication模型上的post_save信号会向订阅的客户端发布消息(我使用的是django-socketio,gevent-socketio的包装器)。这似乎很简单......
然而,在尝试以下后我不确定这是可能的:
将gevent的SocketIOServer实例传递给任务调用的回调方法,但这需要对传递的对象进行pickle,这是不可能的
在memchache中存储套接字的session_id(与Django的session_id不同),并在Celery任务进程中检索它。
使用Redis pubsub,因此在后台进程中创建的模型上通过post_save信号调用的方法可以简单地发布到Redis通道,但是在主应用程序进程中可以监听聊天通道(可以访问套接字连接)块申请的其余部分。
我还尝试为每个Redis客户端生成新线程,这些线程是为每个套接字订阅者创建的。据我所知,这需要生成一个新的gevent.greenlets.Greenlet,并且gevent不能用于多个线程
当然这是一个已解决的问题。我错过了什么?
答案 0 :(得分:0)
你已经有了django-socketio,用redis写一个pub / sub会很遗憾:)
客户方:
var socket = new io.Socket();
socket.connect();
socket.on('connect', function() {
socket.subscribe({{ score_update_channel }});
});
服务器端:
from django_socketio import broadcast_channel
def user_score_update(user):
return 'score_updates_user_%s' % user.pk
channel = user_score_update(user)
broadcast_channel(score_result_data, channel)
您需要在django-socketio进程上运行广播;如果你从一个不同的进程(芹菜工人)运行它将无法工作(通过django-socketio进程在内存中引用通道);您可以通过将其包装在视图中来解决此问题,并且当任务完成时芹菜将调用(发出真实的http请求)。