等到网页加载到Scrapy中

时间:2015-02-27 14:15:35

标签: python scrapy timedelay time-wait

我正在使用scrapy脚本使用“yield”加载URL。

MyUrl = "www.example.com"
request = Request(MyUrl, callback=self.mydetail)
yield request
def mydetail(self, response):
    item['Description'] = response.xpath(".//table[@class='list']//text()").extract()
    return item

URL似乎至少需要5秒才能加载。所以我希望Scrapy等待一段时间来加载项目['Description']中的整个文本。 我在settings.py中尝试了“DOWNLOAD_DELAY”但没有用。

0 个答案:

没有答案