AWS API Gateway + Lamda - 如何处理每秒100万个请求

Question

我们希望为我们的创业公司创建无服务器架构，我们希望每秒支持多达100万个请求和5000万活跃用户。我们如何使用AWS架构处理此用例？

关于AWS文档API网关只能处理10K个请求/秒，而lamda可以处理1K个调用/ s，对我们来说这是不可接受的。

我们如何克服这个限制？我们可以通过AWS支持请求此吞吐量，还是可以以某种方式连接到另一个AWS服务（队列）？

谢谢！

Answer 1

您引用的数字是默认帐户限制。 Lambda和API Gateway可以处理更多，但您必须向Amazon发送请求以提高帐户限制。如果您真的要每秒接收100万个API请求，那么您应该与AWS账户代表讨论它。您确定大多数请求都不会被像CloudFront这样的缓存处理吗？

Answer 2

该网关不是您的API服务器。 Lambda是瓶颈。

虽然网关每秒可以处理100000条消息（因为它正在通过消息队列），但是即使进行缩放（https://amido.com/blog/azure-functions-vs-aws-lambda-vs-google-cloud-functions-javascript-scaling-face-off/），Lambda仍能达到约2200 rps的峰值

这与实际的API框架实现截然不同，后者的扩展规模可达到3500+ rps。

Answer 3

我认为您应该使用Application Load Balancer。 就RPS而言，它是无限的，并且对于大量请求而言可能甚至更便宜。尽管与AWS服务的集成确实较少，但是总的来说，它具有网关所需的一切。 https://dashbird.io/blog/aws-api-gateway-vs-application-load-balancer/