我使用芹菜来并行化一些长期工作。 实际上我的分块算法不能保证每个算法的工作相同 子任务。所以我注意到了这种意想不到的行为 组内的不平衡任务。
示例任务:
@app.task(name='step')
def step(s):
print 'step received:', s
time.sleep(s)
return s
在这种情况下:
%time group(step.s(10), step.s(1), step.s(1), step.s(3))
CPU times: user 32.2 ms, sys: 33.6 ms, total: 65.8 ms
Wall time: <b>13.6 s</b>
Out[5]: [10, 1, 1, 3]
我认为1,1,3,10的组合不能超过10秒(加上任务的时间很短)。
我注意到这个电话:
之后,工作人员2和3忙于短时间(仅1秒),因此他们可以完成最后一项任务,但是&#34;步骤(3)&#34;只会在&#34;步骤(10)&#34;之后处理结束了。
这听起来很奇怪。 有什么建议吗?
谢谢 Gla结构