是否可以从node.js应用程序中运行wget
?我想要一个抓取网站的脚本,然后下载一个特定的文件,但是文件链接的href
会经常更改。所以,我认为最简单的方法就是找到链接的href
,然后只需对其执行wget。
谢谢!
答案 0 :(得分:17)
为了将来参考,我建议使用request,这样可以轻松获取该文件:
var request = require("request");
request(url, function(err, res, body) {
// Do funky stuff with body
});
答案 1 :(得分:14)
虽然它可能比某些第三方内容更冗长,但Node的核心HTTP
模块提供了可用于此的HTTP client:
var http = require('http');
var options = {
host: 'www.site2scrape.com',
port: 80,
path: '/page/scrape_me.html'
};
var req = http.get(options, function(response) {
// handle the response
var res_data = '';
response.on('data', function(chunk) {
res_data += chunk;
});
response.on('end', function() {
console.log(res_data);
});
});
req.on('error', function(err) {
console.log("Request error: " + err.message);
});
答案 2 :(得分:7)
您可以使用child_processes运行外部命令:
var util = require('util'),
exec = require('child_process').exec,
child,
url = 'url to file';
child = exec('wget ' + url,
function (error, stdout, stderr) {
console.log('stdout: ' + stdout);
console.log('stderr: ' + stderr);
if (error !== null) {
console.log('exec error: ' + error);
}
});
答案 3 :(得分:2)
你可以使用wget。
var exec = require('child_process').exec;
child = exec("/path/to/wget http://some.domain/some.file", function (error, stdout, stderr) {
if (error !== null) {
console.log("ERROR: " + error);
}
else {
console.log("YEAH IT WORKED");
}
});
答案 4 :(得分:2)
您可以使用node-wget。 适用于'wget'不可能的情况