从AWS API Gateway进行间歇性缓存

Question

我们已使用GET端点设置了边缘优化的API网关实现。

集成端点由Java后端提供。内容很少（每隔几天）更改。

我们已在阶段级别启用了缓存，还启用了它作为特定GET端点上的替代，并将TTL设置为一个小时。

我们发现只有大约80％的请求是从缓存中返回的。

运行以下负载测试时会发生这种情况：

• 每秒约1000个请求
• 在10分钟内
• 在0.5GB缓存限制内轻松命中4个包含内容的URL
• TTL应该没有过期
• 将节流设置为默认值

我们的期望是，有99％的请求已被缓存。

为什么我们看到如此多的请求缺少缓存？