我有一个网站,其架构如下: 许多域名和每个域名都有此
Global link<br>
special link1
special link1
special link1
special link1
因为域名太多,我只设置了深度= 2,但我不希望scrapy启动xpath,除非深度为2 我怎样才能做到这一点?
答案 0 :(得分:0)
spidermiddleware使用request.meta ['depth']限制深度,请参阅其代码here,并将其用于:
def myparse(self, response):
if response.meta['depth'] == 2:
...