自动缩放时如何解决Google App Engine延迟？

Question

我们的项目在Google App Engine标准环境上运行，并且自动缩放配置为自动。应用中启用了热身请求，我们正在使用Google Endpoints服务。但是，我在扩展时面临延迟问题。例如，使用API​​花费的时间超过50秒。从应用程序日志中，我注意到加载 AppEngineWebAppContext 本身最多需要52秒。如何减少扩展期间的延迟？

环境：Java 8， 实例类型：F4_1G

Answer 1

您大概会花50秒的时间是挂起的等待时间，该等待时间是根据请求在实例处理之前在队列中停留的时间来衡量的。

您应该检查日志，看看哪些请求比平时花费更多，并尝试在较小的任务中打破它们。通常，这在您进行自动缩放时会有所帮助，因为通过执行更多的小型作业而不是一项或多项庞大的工作，将有助于解决您遇到的此延迟问题。

此外，待处理的延迟可能会伴随许多小的工作，但这会导致该应用正确缩放。