处理来自futures.ThreadPoolExecutor python的结果

时间:2019-01-06 14:53:44

标签: python django multithreading

我正在使用带有futures.ThreadPoolExecutor的多线程方法从Django应用程序中的1000个url中获取结果,这种方法运行良好,但是我想澄清一下,然后处理数据是正确的,一旦我们收到第一个响应以及即将收到第二响应等等?

保存来自100个URL的整个json响应,然后一个接一个地处理似乎也不正确。有人可以建议最好的方法吗?

我的问题与下面的讨论有关。

A very simple multithreading parallel URL fetching (without queue)

0 个答案:

没有答案