scrapy没有得到错误的请求处理程序

时间:2015-12-20 11:25:28

标签: http error-handling scrapy

是的,我已经读过我可以检查repsonse.status以获取错误代码,但问题是控件无法访问我的处理程序,例如HTTP错误400:scrapy报告日志,但没有机会以我的方式处理请求。在下面的考试中,下一个请求是通过解析'完成的。并且错误将被回复到第二个请求,该请求由' flight_search_start'处理。

t

还有第二个问题:当我关闭路由器时,框架会挂起很长时间,并且不会报告任何错误。

1 个答案:

答案 0 :(得分:0)

默认情况下,scrapy ingores代码超出200-300范围。如果你想处理它们,你必须告诉scrapy让它们通过蜘蛛,或通过settings.py使用HTTPERROR_ALLOWED_CODES,例如。

HTTPERROR_ALLOWED_CODES = [404,403,406, 408, 500, 503, 504]

请参阅文档here