Scrapy每60秒记录一次关于抓取页数,抓取速度等的统计信息。有没有办法改变这些间隔?
2016-12-19 15:09:01 [scrapy] INFO: Crawled 0 pages (at 0 pages/min), scraped 0 items (at 0 items/min)
2016-12-19 15:10:01 [scrapy] INFO: Crawled 82 pages (at 82 pages/min), scraped 28290 items (at 28290 items/min)
2016-12-19 15:11:01 [scrapy] INFO: Crawled 167 pages (at 85 pages/min), scraped 57615 items (at 29325 items/min)
答案 0 :(得分:3)
有一个名为LOGSTATS_INTERVAL
的(未记录的?)设置,默认为60
(秒)。
您可以在settings.py
中更改您喜欢的间隔(以秒为单位)。 E.g。
LOGSTATS_INTERVAL = 5 * 60.0 # log stats every 5 minutes