我想知道是否有人尝试使用[gevent] [1]和[socksipy] [2]进行并发下载。
答案 0 :(得分:2)
我使用gevent从yfrog,instagram,twitpic等下载~12k图片 图片的累积大小约为1.5Gb,在我的家庭wifi上下载所有内容大约需要20分钟。
为此,我实现了一个image_download
函数,其唯一目的是从给定的URL下载图片,然后使用{{1在image_download
函数上异步映射URL列表}}
gevent.Pool
注意:经过几次尝试,我确定了50名并行工人。通过50,总运行时间没有增加。