我有大约100个Rss链接需要每3分钟获取一次。
所以我使用异步模块来完成它。但在处理完所有Rss链接之前,它就会完成并退出。 以下是代码。
feedRecords 是一个包含 RSS网址和ID的数组;
var items = [];
var parseRss = require("parse-rss");
var async = require('async');
async.forEach(feedRecords, function taskIterator(feedItem, callback)
{
parseRss(feedItem.url, function (err, articles)
{
if (err)
{
callback(err);
}
else
{
console.log("Feed Id : " + feedItem.feed_id + ", Length : " + articles.length);
items.push({ data : articles, feed_id : feedItem.feed_id });
callback(null);
}
});
},
function ()
{
if (items.length > 0)
{
console.log("Total : " + items.length);
}
else
console.log("No data found");
});
我立刻得到找不到数据,然后我得到了日志结果。
以下是输出
No data found
Feed Id : 12, Length : 3
Feed Id : 14, Length : 1
Feed Id : 13, Length : 1
Feed Id : 17, Length : 8
Feed Id : 4, Length : 11
Feed Id : 5, Length : 7
Feed Id : 6, Length : 8
Feed Id : 16, Length : 24
Feed Id : 11, Length : 11
Feed Id : 3, Length : 18
Feed Id : 1, Length : 183
有人可以解决并确认这是解析大约100个Rss提要链接的正确程序,并且每隔3分钟将其存储在MySQL数据库中而不会重复。
答案 0 :(得分:5)
看起来您的某个Feed无法正确解析,因此会返回错误。 这是async.each的一个完全正常的行为,事实上你应该注意到,如果迭代器将错误传递给它的回调,主回调(对于每个函数)会立即调用错误,所以如果其中一个函数返回一个错误,其他回调将无法完成执行。 如果你想要处理所有的数组元素,你总是可以将null传递给你的回调,并找到另一种方法来处理错误。
答案 1 :(得分:-2)
您想要的是async.each
而不是async.forEach
forEach指的是内置的javascript函数,每个函数都是异步的一部分。