我正在尝试为scrapy请求打印301状态。但是,页面重定向并每次显示200

时间:2019-07-02 16:47:39

标签: python web web-scraping scrapy

我正在尝试为scrapy请求打印301状态。但是,页面重定向,每次我得到200状态代码。我不希望发生重定向,仅打印301代码。我是Scrapy的新手,无法弄清楚。

我有以下代码:enter image description here

1 个答案:

答案 0 :(得分:0)

您可以在请求中使用meta属性,然后传递key:value

  • 'dont_redirect':'真实
  • “ handle_httpstatus_list”:[301]

class RedirectSpider(scrapy.Spider):
name = 'redirect'
url = 'http://www.wayfair.com/outdoor/sb0/fire-pits-c215964.html/'

def start_requests(self):
    yield scrapy.Request(
        url=self.url,
        meta={'dont_redirect': True, 'handle_httpstatus_list': [301]},
        callback=self.parse,
    )

def parse(self, response):
    print(response.status)