神秘的铁轨错误,几乎没有任何痕迹

时间:2014-07-07 13:33:42

标签: ruby-on-rails encoding web-crawler fatal-error

我们对一个抓取工具有一个奇怪的问题。有时它会在某些请求上抛出Rails FATAL错误,但跟踪非常有限并且看起来像这样

[2014-07-01 18:16:37] FATAL Rails :
ArgumentError (invalid %-encoding (c ^   FK+ 9u$_    t  Kl
ΥE!   =k \  ̕* ߚ>c+<O   یo ʘ> C     R! 2 D  (5      x q#!` 4 p      |8 I   E
:+   H^9`^ #    Vo{   >

  =[z     )):
  lib/locale_middleware.rb:14:in `call'

抓取工具用户代理

Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)

我们可以要求它停止通过robots.txt抓取我们,但最好是处理根本原因,如果可能,最好不要在这些请求中使用500。

我们也无法真正重现此类请求,因此有关如何生成类似请求的任何建议都会有很大帮助。

我们在Ubuntu 12.04上使用Rails 3.2.19,Unicorn。这是我们的locale_middleware.rb

1 个答案:

答案 0 :(得分:4)

特别感谢Benjamin Sinclaire指向right issue on github

解决方案描述为on this comment

config.middleware.use ::Rack::Robustness do |g|
  g.no_catch_all
  g.on(ArgumentError) { |ex| 400 }
  g.content_type 'text/plain'
  g.body{ |ex| ex.message }
  g.ensure(true) { |ex| env['rack.errors'].write(ex.message) }
end