Question

我有一个内置的TensorFlow自定义模型。我正在尝试在亚马逊Sagemaker上部署此模型以进行推断。该模型具有三个输入并提供五个输出。输入的名称是：

1.    input_image
2.    input_image_meta
3.    input_anchors

，输出的名称是：

1    output_detections
2    output_mrcnn_class
3    output_mrcnn_bbox
4    output_mrcnn_mask
5    output_rois

我已经在sagemaker上成功创建了模型端点，当我尝试满足结果请求时，我得到了{'error'：“ Missing'inputs'or'instances'key”}作为回报。

sagemaker端点已创建，并且tensorflow服务器也已启动（如CloudWatch日志所示）。在客户端，我使用以下代码调用预测变量：

request = {}
request["img_link"] = "image.jpg"
result = predictor.predict(request)

但是当我打印结果时，会打印出以下内容，{'错误'：“缺少'输入'或'实例'键”} 用于加载图片的所有存储桶连接均位于inference.py

Answer 1

Tensorflow服务预测API应该具有键“实例”或“输入”以修改您的输入。您的请求正文应该是这样

{
    "instances": [{
        "input_image": DATA1,
        "input_image_meta": DATA2,
        "input_anchors": DATA3}]
}