我正在抓取这个网站:http://www.germandeli.com/Meats/Sausages,其中包含一些动态内容。
我正在使用带有splash的scrapy shell来呈现javascript,但它返回空值[]。我的系统是Ubuntu 14.04 LTS。
这里是我使用的代码:
$ scrapy shell 'http://localhost:8050/render.html?url=http://www.germandeli.com/Meats/Sausages'
>>> response.xpath('*//h2[@class="item-cell-name"]/a/@href').extract()
任何提示都将不胜感激!
答案 0 :(得分:0)
我明白了。我忘了在链接的末尾添加'& timeout = 10& wait = 5'!
scrapy shell 'http://localhost:8050/render.html?url=http://www.germandeli.com/Meats/Sausages&timeout=10&wait=5'