使用NodeJS从URL解析/保存/获取csv响应

时间:2011-03-29 22:49:38

标签: csv node.js scrape

我正在尝试从雅虎财务网址获取结果:

http://finance.yahoo.com/d/quotes.csv?s=XOM=sn1yr 返回:

"XOM",4:00pm - <b>83.25`</b>`,2.11,13.42

我正在尝试使用Mongoose将这些结果存储在数据库中。我有一些代码正在运行,可以从现有的CSV文件中保存(如您所见,具有不同但相关的内容):

 var writer = new csv.CsvWriter(process.stdout);
  reader.setColumnNames(["Symbol","Company","StockExchange"]);
  reader.addListener('data', function(data) {
  console.log(data);
  var stock = new Stock(data).save();
 });

我正在尝试做类似的事情:

Scraper是https://github.com/mape/node-scraper

的模块
scraper('http://search.twitter.com/search?q=javascript', function(err, $) {
if (err) {throw err;}

$('.msg').each(function() {
    console.log($(this).text().trim()+'\n');
});
 });

但是使用来自Yahoo URL的CSV结果而没有将响应放入单独的CSV文件中,并被告知我需要以某种方式使用stream.write。我是Node的新手,非常感谢帮助解决这个问题。在此先感谢您的帮助!

1 个答案:

答案 0 :(得分:4)

所以你试图从http://finance.yahoo.com/d/quotes.csv?s=XOM=sn1yr抓取CSV并解析数据,以便将它存储在数据库中?

我的抓取库node.io可能会有所帮助。

require('node.io').scrape(function() {
    this.get('http://finance.yahoo.com/d/quotes.csv?s=XOM=sn1yr', function(err, data) {
        var lines = data.split('\n');
        for (var line, i = 0, l = lines.length; i < l; i++) {
            line = this.parseValues(lines[i]);

            console.log(line); //['XOM, '4:00pm - <b>83.25`</b>`', '2.11', '13.42']

            //Do something with your data..
        }
    });
});