如何使用node.js复制wget的功能?

时间:2012-03-02 22:21:00

标签: javascript node.js wget

是否可以从node.js应用程序中运行wget?我想要一个抓取网站的脚本,然后下载一个特定的文件,但是文件链接的href会经常更改。所以,我认为最简单的方法就是找到链接的href,然后只需对其执行wget。

谢谢!

5 个答案:

答案 0 :(得分:17)

为了将来参考,我建议使用request,这样可以轻松获取该文件:

var request = require("request");

request(url, function(err, res, body) {
  // Do funky stuff with body
});

答案 1 :(得分:14)

虽然它可能比某些第三方内容更冗长,但Node的核心HTTP模块提供了可用于此的HTTP client

var http = require('http');
var options = {
    host: 'www.site2scrape.com',
    port: 80,
    path: '/page/scrape_me.html'
  };
var req = http.get(options, function(response) {
  // handle the response
  var res_data = '';
  response.on('data', function(chunk) {
    res_data += chunk;
  });
  response.on('end', function() {
    console.log(res_data);
  });
});
req.on('error', function(err) {
  console.log("Request error: " + err.message);
});

答案 2 :(得分:7)

您可以使用child_processes运行外部命令:

http://nodejs.org/docs/latest/api/child_process.html#child_process_child_process_exec_command_options_callback

var util = require('util'),
    exec = require('child_process').exec,
    child,
    url = 'url to file';

child = exec('wget ' + url,
  function (error, stdout, stderr) {
    console.log('stdout: ' + stdout);
    console.log('stderr: ' + stderr);
    if (error !== null) {
      console.log('exec error: ' + error);
    }
});

答案 3 :(得分:2)

你可以使用wget。

var exec = require('child_process').exec;

child = exec("/path/to/wget http://some.domain/some.file", function (error, stdout, stderr) {
if (error !== null) {
  console.log("ERROR: " + error);
}
else {
  console.log("YEAH IT WORKED");
}
});

答案 4 :(得分:2)

您可以使用node-wget。 适用于'wget'不可能的情况