除非足够深,否则不要开始解析

时间:2014-02-06 10:45:17

标签: scrapy

我有一个网站,其架构如下: 许多域名和每个域名都有此

Global link<br>
special link1
special link1
special link1
special link1

因为域名太多,我只设置了深度= 2,但我不希望scrapy启动xpath,除非深度为2 我怎样才能做到这一点?

1 个答案:

答案 0 :(得分:0)

spidermiddleware使用request.meta ['depth']限制深度,请参阅其代码here,并将其用于:

def myparse(self, response):
    if response.meta['depth'] == 2:
        ...