Node.js异步模块在迭代完成之前完成

时间:2015-10-01 14:42:56

标签: javascript node.js asynchronous rss feed

我有大约100个Rss链接需要每3分钟获取一次。

所以我使用异步模块来完成它。但在处理完所有Rss链接之前,它就会完成并退出。 以下是代码。

feedRecords 是一个包含 RSS网址和ID的数组;

var items = [];
var parseRss = require("parse-rss");
var async = require('async');

async.forEach(feedRecords, function taskIterator(feedItem, callback) 
{
    parseRss(feedItem.url, function (err, articles) 
    {
        if (err) 
        {
            callback(err);
        }
        else 
        {
            console.log("Feed Id : " + feedItem.feed_id + ", Length : " + articles.length);
            items.push({ data : articles, feed_id : feedItem.feed_id });
            callback(null);
        }
    });
},
function ()
{
    if (items.length > 0) 
    {
        console.log("Total : " + items.length);
    }
    else
        console.log("No data found");
});

我立刻得到找不到数据,然后我得到了日志结果。

以下是输出

No data found

Feed Id : 12, Length : 3

Feed Id : 14, Length : 1

Feed Id : 13, Length : 1

Feed Id : 17, Length : 8

Feed Id : 4, Length : 11

Feed Id : 5, Length : 7

Feed Id : 6, Length : 8

Feed Id : 16, Length : 24

Feed Id : 11, Length : 11

Feed Id : 3, Length : 18

Feed Id : 1, Length : 183

有人可以解决并确认这是解析大约100个Rss提要链接的正确程序,并且每隔3分钟将其存储在MySQL数据库中而不会重复。

2 个答案:

答案 0 :(得分:5)

看起来您的某个Feed无法正确解析,因此会返回错误。 这是async.each的一个完全正常的行为,事实上你应该注意到,如果迭代器将错误传递给它的回调,主回调(对于每个函数)会立即调用错误,所以如果其中一个函数返回一个错误,其他回调将无法完成执行。 如果你想要处理所有的数组元素,你总是可以将null传递给你的回调,并找到另一种方法来处理错误。

答案 1 :(得分:-2)

您想要的是async.each而不是async.forEach forEach指的是内置的javascript函数,每个函数都是异步的一部分。

https://github.com/caolan/async#each