App Engine和响应时间慢

Question

我们需要建立一个必须在100ms内回复的Web服务。我们计划使用memcache作为我们的存储系统，以避免来自Google Cloud SQL或DataStore的延迟。

使用App Engine和Python是个好主意还是太慢了？

Answer 1

数据存储通常需要在几十毫秒到几十毫秒之间，而内存缓存通常需要大约一到两毫秒。 因此，如果您要使用它并忽略自己的HTTP请求时间，那么就可以到达那里。

然而，App Engine有时会在需要扩展时发出加载请求并显示以下消息：

  

此请求导致为您的应用程序启动新进程，   因此导致您的应用程序代码首次加载。   因此，该请求可能花费更长时间并且使用比典型更多的CPU   请求申请。

  

什么是加载请求？

     

有些请求运行较慢，因为App Engine需要创建新的Java   虚拟机（JVM）为请求提供服务。那种要求是   称为加载请求。在加载请求期间，您的应用程序   经历初始化（例如类加载，JIT编译等）   这导致请求需要更长时间。

     

请求的截止日期约为60秒，其中包括   初始化和您的应用程序需要的任何其他工作   在启动时执行。如果您的应用超出此限制，a   返回DeadlineExceededException。

     

您可以通过过滤在请求日志中找到这些类型的请求   在loading_request = 1

只有当你向上扩展时才会发生这种情况，所以如果你有持续的流量并且你可以允许这种情况发生一次，那么你就是好的。