标签: python scrapy screen-scraping
我有一个网站在每页抓取时对scrapy做出响应504。 我用wget尝试了它并下载了。我没有那种知识 http协议所以我猜这个行动路径可能对很多人有用 新手刮刀。
我需要在scrapy项目中执行哪些类,设置和调整 使用wget而不是embedded-with-scrapy下载器。
There is an aswer related to this 但鉴于我的scrapy知识 我无法看到如何在我的项目中实现这一点。