async.retry - 已调用回调

时间:2016-05-02 19:07:38

标签: javascript node.js asynchronous

我看了很多,我很确定回调没有被调用两次。无论如何,这是我的代码:

async.eachSeries(saveProps,function(photo,doneMaster){
    var tries = 0;
    async.retry({times: 10, interval: 200}, 
        function(done, results){
            debug('attempt num: ' + (++tries));
            aws.getFile(photo.s3_location,function(err,s){
                if(err){
                    debug('error:' + err);
                    return done(err);
                }else{
                    done(null,s);
                 }
            })
        },
        function(err,imageStream){
            if(err){return doneMaster(err);}
            else{
                debug('appending photo to zip: %s', photo.s3_location);
                zip.append(imageStream, {name: photo.saveName});
                doneMaster();
            }
        }
    );
},function(err){
    if(err){
        reject(err);
    }else{
        zip.finalize();
    }
});

这个问题的一个小背景是,我试图以一对一的方式迭代一些照片信息,并将数据从s3流式传输到zip文件中。我正在尝试为许多照片(几千张)做这项工作。该过程因为一个图像返回ECONNRESET而跳闸。每当发生这种情况时,我想再次重试。我遇到的问题是,无论何时图像抛出ECONNRESET并重试,异步库都会抛出一个错误,表明已经调用了回调。我一直在看这个,我不打电话两次。

我的问题,done()如何被召唤两次?

有关我正在使用的对象/包的一些信息:

堆栈跟踪信息:

app:worker attempt num: 1 +1ms
app:worker error:Error: read ECONNRESET +91ms
/appdir/node_modules/async/dist/async.js:803
            if (fn === null) throw new Error("Callback was already called.");
                             ^

Error: Callback was already called.
    at /appdir/node_modules/async/dist/async.js:803:36
    at /appdir/node_modules/async/dist/async.js:3481:17
    at /appdir/node_modules/async/dist/async.js:307:31
    at /appdir/node_modules/async/dist/async.js:3755:21
    at ClientRequest.<anonymous> (/appdir/modules/zip-worker.js:348:44)
    at emitOne (events.js:77:13)
    at ClientRequest.emit (events.js:169:7)
    at TLSSocket.socketErrorListener (_http_client.js:256:9)
    at emitOne (events.js:77:13)
    at TLSSocket.emit (events.js:169:7)
    at emitErrorNT (net.js:1253:8)
    at nextTickCallbackWith2Args (node.js:442:9)
    at process._tickCallback (node.js:356:17)

在此堆栈跟踪中,/appdir/modules/zip-worker.js:348:44done(null,s);所在的行。

1 个答案:

答案 0 :(得分:0)

所以,我发现一旦进程达到一定数量的流,节点就很难处理所有流。因此,每个流都将被标记为已完成,但是在添加流之后的某个位置,其中一个连接将重置,从而导致该回调因错误而重新启动。所以,我决定不使用getFile,而是使用get并分别处理每个图像数据。而不是将流附加到zip我可以附加图像缓冲区数据。它现在很漂亮。以下是我的代码:

async.eachSeries(saveProps,function(photo,doneMaster){
    var tries = 0;
    async.retry({times: 10, interval: 200}, 
        function(done, results){
            var error;
            var imageData;
            debug('attempt num: ' + (++tries));
            var req = aws.get(photo.s3_location);

            req.on('response',function(res){
                if(res.statusCode !== 200){
                    error = new Error('status code ' + res.statusCode);
                }else{
                    res.on('data', function(chunk){
                        imageData += chunk;
                    });



                    res.on('end',function(){
                        if(error){
                            done(error);
                        }else{
                            done(null, imageData);
                        }
                    });
                }
            });

            req.on('error', function(err){
                error = err;
            });

            req.end();

        },
        function(err,data){
            if(err){return doneMaster(err);}
            else{
                debug('appending photo to zip: %s', photo.s3_location);
                zip.append(data, {name: photo.saveName});
                doneMaster();
            }
        }
    );
},function(err){
    if(err){
        debug('zip finished with error: ' + err);
        reject(err);
    }else{
        debug('zip finalizing');
        zip.finalize();
    }
});