我怎么设置这个?我写了handle_httpstatus_list = [301,302,303],但scrapy没有跟随新链接,它只是开始保存页面的空文件。
P.S。英语不是我的母语。为此我就这样。
答案 0 :(得分:5)
您还需要在请求中提及dont_redirect = true
:
meta = {'dont_redirect': True, "handle_httpstatus_list" : [301, 302, 303]}
此致
答案 1 :(得分:5)
默认情况下,Scrapy会处理重定向,这意味着在DOWNLOADER_MIDDLEWARES
设置中激活了RedirectMiddleware,并且REDIRECT_ENABLED
设置设置为True
。