Scrapy - 更改记录统计信息之间的时间间隔

时间:2016-12-19 14:12:16

标签: scrapy scrapy-spider

Scrapy每60秒记录一次关于抓取页数,抓取速度等的统计信息。有没有办法改变这些间隔?

2016-12-19 15:09:01 [scrapy] INFO: Crawled 0 pages (at 0 pages/min), scraped 0 items (at 0 items/min)
2016-12-19 15:10:01 [scrapy] INFO: Crawled 82 pages (at 82 pages/min), scraped 28290 items (at 28290 items/min)
2016-12-19 15:11:01 [scrapy] INFO: Crawled 167 pages (at 85 pages/min), scraped 57615 items (at 29325 items/min)

1 个答案:

答案 0 :(得分:3)

有一个名为LOGSTATS_INTERVAL的(未记录的?)设置,默认为60(秒)。 您可以在settings.py中更改您喜欢的间隔(以秒为单位)。 E.g。

LOGSTATS_INTERVAL = 5 * 60.0    # log stats every 5 minutes