Nokogiri宝石的简单要求非常慢?

时间:2014-04-06 09:26:10

标签: ruby-on-rails ruby web-scraping nokogiri

我正在尝试使用Nokogiri从亚马逊那里获取一些信息。

由于某种原因,此过程需要大约50秒才能完成。我做错了什么导致代码效率低下,或者需要多长时间?

url = "http://www.amazon.com/dp/" + item["ASIN"]
page = Nokogiri::HTML(open(url))
@numreviews = page.css('#averageCustomerReviews > a').text

我在一个循环中有这个到20个不同的URL。无论如何都要加快速度,或者只是为了获取信息而必须加载的页面才需要这么长时间?

1 个答案:

答案 0 :(得分:2)

这可能是因为此URL的响应太大。您可以使用Amazon API,它将为您提供XML中的选定信息,这也很容易解析。