Question

使用tensorflow-serving导出模型时，我有一个新要求，如果我只需要知道输入图像上的数字而不用大测试数据对该模型进行测试，该怎么办？我应该怎么做才能做到这一点或不可能做到？任何建议将不胜感激，谢谢！

Answer 1

如果我正确理解了您的问题，则在保存训练后的模型之后，不要在测试数据上运行模型，而是要使用推理对单个实例进行预测。

如果我的理解是正确的，可以。请找到以下代码段进行推断。

pip install -q requests

import requests

headers = {"content-type": "application/json"}

json_response = requests.post('http://localhost:8501/v1/models/fashion_model:predict', data=data, headers=headers)

predictions = json.loads(json_response.text)['predictions']

show(0, 'The model thought this was a {} (class {}), and it was actually a {} (class {})'.format(
  class_names[np.argmax(predictions[0])], test_labels[0], class_names[np.argmax(predictions[0])], test_labels[0]))

有关更多详细信息，您可以参考链接https://www.tensorflow.org/tfx/tutorials/serving/rest_simple#make_rest_requests

如何使用张量流服务导出具有自己的自定义函数的模型？

1 个答案: