最近几天,我正在学习scrapy的来源,以便我可以处理我的研究生工作。但是我遇到了一些我无法处理的关于scrapy的问题。因为我的互联网上的墙,我无法愉快地搜索我的问题。我的英语很差,我也不确定我能理解它,即使我得到了......因此,我想要求帮助。由于scrapy中的所有核心模块都有一个名为“slot”的类,它是什么意思?它在Scrapy流程中起什么作用?
答案 0 :(得分:1)
scrapy中的插槽意味着插槽引擎
有关详细信息,您可以查看基本代码here。
当您在计算机引擎上启动telnet引擎时,您可以查看/管理此代码
telnet localhost 6023
>>> est()
Execution engine status
time()-engine.start_time : 8.62972998619
engine.has_capacity() : False
len(engine.downloader.active) : 16
engine.scraper.is_idle() : False
engine.spider.name : followall
engine.spider_is_idle(engine.spider) : False
engine.slot.closing : False
len(engine.slot.inprogress) : 16
len(engine.slot.scheduler.dqs or []) : 0
len(engine.slot.scheduler.mqs) : 92
len(engine.scraper.slot.queue) : 0
len(engine.scraper.slot.active) : 0
engine.scraper.slot.active_size : 0
engine.scraper.slot.itemproc_size : 0
engine.scraper.slot.needs_backout() : False
插槽可用于定义进度启动和/或调度程序处理。