张量流服务输入有效载荷

时间:2019-12-30 12:16:09

标签: tensorflow tensorflow-serving payload

我有一个以SavedModel格式(.pb)保存的模型。在没有问题地服务模型后,我尝试通过张量流服务进行预测。 TF Serving要求我通过列表输入数据,否则我收到的答案是TypeError:'ndarray'类型的对象不是JSON可序列化的 。但是当我输入列表时,响应是一个错误

输入为

value = [1, 2, 3, 4, 5]
body = {"signature_name": "serving_default",
        "instances": [[values]]}
res = requests.post(url=url,
                            data=json.dumps(body))

和答案{“错误”:“ In [0]不是矩阵,而是形状为[1,1,5] \ n \ t [[{{节点顺序/密集/露露}}]]] “}

我知道模型有效,不使用张量流服务的输入是

value = np.array([1,2,3,4,5])
model.predict([[value]])

所以问题是如果需要使用列表作为输入但模型需要使用np.array作为输入,那么如何使用tensorflow服务。

1 个答案:

答案 0 :(得分:0)

我想你应该用这种方式

value = <ndarray>
data = value.tolist()
body = {
    "signature_name": "serving_default",
    "instances": data}