我应该用Curl :: Easy设置什么user_agent

时间:2014-05-21 20:26:21

标签: ruby-on-rails-3 curl user-agent http-compression

我正在使用ruby 1.9.3-p448运行Rails 3应用程序,并在用户在帖子中包含网址时使用Curl::Easy库来抓取一些图像。

设置:

url_a =“http://hardballtalk.nbcsports.com/2014/04/07/team-exec-thinks-shortening-games-to-seven-innings-is-what-baseball-needs/

url_b =“http://www.cbssports.com/golf/eye-on-golf/24563578/us-open-infographic-shows-path-to-championship

当我使用用户代理'Mozilla / 5.0(X11; Linux x86_64; rv:10.0)Gecko / 20100101 Firefox / 10.0'时,我发现curling url_a工作正常但url_b返回压缩响应。

当我使用用户代理'Mozilla / 5.0'时,上述url_a会产生此错误:

Curl::Err::GotNothingError: Curl::Err::GotNothingError

虽然curling url_b给出了一个未压缩的响应(这是我想要的)。

任何人都知道为什么会发生这种情况以及能够从两个网址返回良好的,未压缩的响应的良好用户代理选择是什么?

我在这里有点不舒服,所以请向我询问您需要的更多信息。

谢谢!

1 个答案:

答案 0 :(得分:0)

这一直对我有用:

"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:32.0) Gecko/20100101 Firefox/32.0"