我正在尝试使用带有Flask API的AWS(带有CPU)在Keras模型(带有TensorFlow后端)上进行预测,但是我遇到了问题。在我的本地计算机(带有GPU)上使用相同的脚本时,它可以工作,但在AWS(C5大型实例)上,它却不能。
我的脚本是这样的
return View(Mapper.Map<IList<GalleryModel>>(_dbContext.Images));
第一个图像已正确预测,但第二个预测却出现以下错误:
def load_det_model():
global detection_model, graph_det
detection_model = models.load_model(path)
detection_model._make_predict_function()
graph_det = tf.get_default_graph()
@app.route("/predict", methods=["POST"])
@auth.login_required
def predict():
if flask.request.method == "POST":
image = Image.open(io.BytesIO(raw_image))
with graph_det.as_default():
preds = detection_model.predict_on_batch(image)
K.clear_session()
有什么建议吗?
非常感谢您。