scrapy downloadermiddleware使用wget而不是python http中间件

时间:2016-05-27 05:47:56

标签: python scrapy screen-scraping

我有一个网站在每页抓取时对scrapy做出响应504。 我用wget尝试了它并下载了。我没有那种知识 http协议所以我猜这个行动路径可能对很多人有用 新手刮刀。

我需要在scrapy项目中执行哪些类,设置和调整 使用wget而不是embedded-with-scrapy下载器。

There is an aswer related to this  但鉴于我的scrapy知识 我无法看到如何在我的项目中实现这一点。

0 个答案:

没有答案