什么'槽'在scrapy中意味着什么?

时间:2017-05-06 08:34:24

标签: python scrapy

最近几天,我正在学习scrapy的来源,以便我可以处理我的研究生工作。但是我遇到了一些我无法处理的关于scrapy的问题。因为我的互联网上的墙,我无法愉快地搜索我的问题。我的英语很差,我也不确定我能理解它,即使我得到了......因此,我想要求帮助。由于scrapy中的所有核心模块都有一个名为“slot”的类,它是什么意思?它在Scrapy流程中起什么作用?

1 个答案:

答案 0 :(得分:1)

scrapy中的插槽意味着插槽引擎

有关详细信息,您可以查看基本代码here

当您在计算机引擎上启动telnet引擎时,您可以查看/管理此代码

telnet localhost 6023
>>> est()
Execution engine status

time()-engine.start_time                        : 8.62972998619
engine.has_capacity()                           : False
len(engine.downloader.active)                   : 16
engine.scraper.is_idle()                        : False
engine.spider.name                              : followall
engine.spider_is_idle(engine.spider)            : False
engine.slot.closing                             : False
len(engine.slot.inprogress)                     : 16
len(engine.slot.scheduler.dqs or [])            : 0
len(engine.slot.scheduler.mqs)                  : 92
len(engine.scraper.slot.queue)                  : 0
len(engine.scraper.slot.active)                 : 0
engine.scraper.slot.active_size                 : 0
engine.scraper.slot.itemproc_size               : 0
engine.scraper.slot.needs_backout()             : False

插槽可用于定义进度启动和/或调度程序处理。