调用大容量AWS lambda函数的最佳方法是什么?

时间:2015-11-12 21:24:48

标签: amazon-web-services aws-lambda aws-sdk

我想到的服务可能需要在很短的时间内调用大量的Lambda函数。例如在一个非常繁忙的频道中的聊天机器人,在每个新消息上调用用lambda编写的机器人。 Lambda似乎是一个很好的解决方案。

我用AWS SDK编写了一个简单的测试代码:

var lambda = new AWS.Lambda({apiVersion: '2015-03-31'});

function invoke() {
  var start = new Date();
  var params = {
    FunctionName: 'test', /* required */
    InvocationType: 'RequestResponse',
    LogType: 'None',
    Payload: '{}',
  };
  lambda.invoke(params, function(err, data) {
    if (err) {
      console.log(err, err.stack); // an error occurred
    }
    else  {
      var duration = new Date() - start;
      console.info("Execution time: %dms", duration);
    }
  });
}

for (var i = 0; i < n; i++) {
  invoke();
}

lambda函数“test”是一个非常简单的函数,它基本上什么也不做,只返回输入事件。在lambda控制台中,执行通常需要不到10毫秒。我在自己的笔记本电脑上进行了测试,因此网络延迟大约为200~300ms。单个调用从我的开发计算机大约需要600~800毫秒。

小批量运行看起来不错:

$ node test.js 5
Execution time: 637ms
Execution time: 652ms
Execution time: 646ms
Execution time: 713ms
Execution time: 850ms

但是,如果我大批量运行,延迟会变得非常大,并且变得越来越大:

$ node test.js 1000
Execution time: 3569ms
Execution time: 4418ms
Execution time: 3571ms
Execution time: 4505ms
Execution time: 3661ms
Execution time: 3322ms
Execution time: 3645ms
Execution time: 3654ms
Execution time: 3651ms
Execution time: 4531ms
...
Execution time: 71851ms
Execution time: 70879ms
Execution time: 71777ms

我理解AWS-SDK实际上是在发出调用lambda的HTTP请求,因此AWS会限制并发连接,并且请求可能会排队并减慢它们的速度。所以似乎不可能以这种方式调用大量的lambda ...... :(

我即将通过发送SNS来测试它,但是不确定这是否是一个很好的解决方案,因为我希望从这些lambda函数中获得结果。

更新:我还将代码放在另一个部署到同一区域的lambda函数中,所以我认为网络延迟很小,看起来肯定更快,但似乎有同样的问题。

START RequestId: 7bd3339d-8986-11e5-85d1-67b32d2e2f9c Version: $LATEST
2015-11-12T21:44:00.923Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #0
2015-11-12T21:44:01.003Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #1
2015-11-12T21:44:01.005Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #2
2015-11-12T21:44:01.063Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #3
2015-11-12T21:44:01.065Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #4
2015-11-12T21:44:01.122Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #5
2015-11-12T21:44:01.123Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #6
2015-11-12T21:44:01.124Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #7
2015-11-12T21:44:01.124Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #8
2015-11-12T21:44:01.182Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Lambda invoke #9
2015-11-12T21:44:01.182Z    7bd3339d-8986-11e5-85d1-67b32d2e2f9c    Execution time: 753ms
END RequestId: 7bd3339d-8986-11e5-85d1-67b32d2e2f9c
REPORT RequestId: 7bd3339d-8986-11e5-85d1-67b32d2e2f9c  Duration: 873.46 ms Billed Duration: 900 ms     Memory Size: 128 MB Max Memory Used: 14 MB  

我的问题是,有没有办法在很短的时间内调用大容量lambda?

2 个答案:

答案 0 :(得分:2)

如果您将InvocationTypeRequestResponse切换到Event,那么您的函数将运行您的调用以异步调用。

答案 1 :(得分:2)

您需要异步调用Lambda(如@Matt Beckman所示),您需要增加Lambda account limits。如果您必须维护状态或检索返回的结果,那么您需要找到另一种方法来做到这一点,例如附加到SQS队列或DynamoDB表。