Scrapy多个代理

时间:2015-05-14 06:58:51

标签: python web-scraping scrapy

我计划使用多个代理进行抓取。我想知道设置CONCURRENT_REQUESTS_PER_IP是否适用于每个代理IP或网站IP。

还想知道是否还有其他限制策略可用于正确抓取?

编辑:我检查了Throttling requests with multiple proxies,并且没有提到有关如何在Scrapy中处理并发性的内容。它说关于编写自定义逻辑。

0 个答案:

没有答案