AI平台上带有Resnet50的随机在线预测错误500和429

时间:2019-10-08 12:45:41

标签: google-cloud-platform google-cloud-ml gcp-ai-platform-notebook gcp-ai-platform-training

我在AI平台上部署了ResNet50模型(900 MB),最小节点为1。

当我进行推断时,有时会随机得到500和429错误。对于AI平台代码错误(https://cloud.google.com/ml-engine/docs/troubleshooting):

  1. 错误500:无法加载模型
  2. 错误429:内存不足

我有点困惑,因为这些错误是随机发生的。当发生这些错误时,我会再次播放请求,并获得良好的结果。

请,您能解释一下我为什么会出现这种情况吗?以及我该如何解决这个问题?

非常感谢您的回答,

最佳,

0 个答案:

没有答案