我正在尝试为scrapy请求打印301状态。但是,页面重定向,每次我得到200状态代码。我不希望发生重定向,仅打印301代码。我是Scrapy的新手,无法弄清楚。
我有以下代码:enter image description here
答案 0 :(得分:0)
您可以在请求中使用meta属性,然后传递key:value
class RedirectSpider(scrapy.Spider):
name = 'redirect'
url = 'http://www.wayfair.com/outdoor/sb0/fire-pits-c215964.html/'
def start_requests(self):
yield scrapy.Request(
url=self.url,
meta={'dont_redirect': True, 'handle_httpstatus_list': [301]},
callback=self.parse,
)
def parse(self, response):
print(response.status)