张量流服务输入有效载荷

Question

我有一个以SavedModel格式（.pb）保存的模型。在没有问题地服务模型后，我尝试通过张量流服务进行预测。 TF Serving要求我通过列表输入数据，否则我收到的答案是TypeError：'ndarray'类型的对象不是JSON可序列化的 。但是当我输入列表时，响应是一个错误

输入为

value = [1, 2, 3, 4, 5]
body = {"signature_name": "serving_default",
        "instances": [[values]]}
res = requests.post(url=url,
                            data=json.dumps(body))

和答案{“错误”：“ In [0]不是矩阵，而是形状为[1,1,5] \ n \ t [[{{节点顺序/密集/露露}}]]] “}

我知道模型有效，不使用张量流服务的输入是

value = np.array([1,2,3,4,5])
model.predict([[value]])

所以问题是如果需要使用列表作为输入但模型需要使用np.array作为输入，那么如何使用tensorflow服务。

Answer 1

我想你应该用这种方式

value = <ndarray>
data = value.tolist()
body = {
    "signature_name": "serving_default",
    "instances": data}