出现错误:使用本地节点服务从S3调整图像大小时,Stream会产生空缓冲区

时间:2016-06-28 19:12:34

标签: node.js amazon-web-services amazon-s3 aws-lambda

我有一个非常类似的方法:Resizing image with nodeJs and AWS。当我在Windows 10上本地运行我的服务时,我仍然会遇到同样的错误。它可以在lambda云上完美运行。我发现这个讨论关于有限的内存或有限的超时如何在stderrStream yields empty buffer error when processing large image files using gm中引发gm。此外,这个讨论也提到了如何 有限的内存将使您的lambda服务易受攻击而且不健壮:In amazon lambda, resizing multiple thumbnail sizes in parallel async throws Error: Stream yields empty buffer。但是,我在本地运行这个节点服务并且有足够的空闲内存,我不应该一直遇到这个“有限内存”陷阱。我认为这个问题来自gm。这是我的代码:

async.forEachOf(_sizesArray, function(value, key, callback) {
        async.waterfall([

            function download(next) {
                s3.getObject({
                    Bucket: srcBucket,
                    Key: srcKey
                }, next);
            },
            function convert(response, next) {
                console.log(response.Body);
                gm(response.Body,srcKey).antialias(true).density(
                    300).toBuffer('JPG', function(err,
                    buffer) {
                    if (err) {
                        console.log(err + "\n\nfrom convert\n");
                        next(err);
                    } else {
                        next(null, buffer);
                    }
                });
            },
            function process(response, next) {
                gm(response).size(function(err, size) {
                    var scalingFactor = Math.min(
                        _sizesArray[key].width /
                        size.width, _sizesArray[
                            key].width / size.height
                    );
                    var width = scalingFactor *
                        size.width;
                    var height = scalingFactor *
                        size.height;
                    var index = key;
                    this.resize(width, height).toBuffer(
                        'JPG', function(err,
                            buffer) {
                            if (err) {
                                console.log(err+"\n\nfrom process\n");
                                next(err);
                            } else {
                                next(null,buffer,key);
                            }
                        });
                });
            },
            function upload(data, index, next) {
                s3.putObject({
                    Bucket: dstBucket,
                    Key: myPath + "/" + fileName.slice(0, -4) + 
                        _sizesArray[index].suffix +
                        ".jpg",
                    Body: data,
                    ContentType: 'JPG'
                }, next);
            }
        ], function(err, result) {
            if (err) {
                console.error(err);
            }
            console.log("End of step " + key);
            callback();
        });
    }, function(err) {
        if (err) {
            console.error('Unable to resize ' + srcBucket +
                '/' + srcKey + ' and upload to ' + dstBucket +
                myPath + '/' + ' due to an error: ' + err);
        } else {
            console.log('Successfully resized ' + srcBucket +
                ' and uploaded to ' + dstBucket + '/' + myPath + '/');
        }
        cb(myPath+"/"+fileName);
    });

更具体地说,执行函数async.waterfall()时将退出convert(res,next)函数,而toBuffer()将抛出我在问题标题中提到的错误。

1 个答案:

答案 0 :(得分:5)

所以我的原始代码适用于lambda。我无法在本地节点上运行的原因是我没有正确安装gm。(convert二进制文件丢失)要解决此问题,我从GraphicsMagick Download重新安装了gm个二进制文件,并将其更新为最新版本。在安装向导中,检查"关联相关文件"等内容。然后直接导入为:

var gm = require('gm');

而不是:

var gm = require('gm').subClass({ imageMagick: true });