我正在使用带有futures.ThreadPoolExecutor的多线程方法从Django应用程序中的1000个url中获取结果,这种方法运行良好,但是我想澄清一下,然后处理数据是正确的,一旦我们收到第一个响应以及即将收到第二响应等等?
保存来自100个URL的整个json响应,然后一个接一个地处理似乎也不正确。有人可以建议最好的方法吗?
我的问题与下面的讨论有关。
A very simple multithreading parallel URL fetching (without queue)