Tensorflow使用客户端服务

Question

我成功创建了一个接收TF saved_model的服务器，但现在我想发送查询并获得预测。 但是，我很难理解客户端的工作方式以及如何实现它。 我在网上找到的只是basic tutorial，但它们只为mnist提供客户端代码，而且它不适合我自己的mdoel。 那么有人可以推荐我如何使用或实现不同型号的客户端吗？

由于

Answer 1

我真的感谢谷歌让tensorflow服务于开源，对于像我这样的人来说，将预测模型投入生产是非常有帮助的。但是我不得不承认tensorflow服务在文档中表现不佳，或者他们认为使用它的人应该已经对tensorflow有很好的了解。我坚持了很长时间才能理解它是如何工作的。在他们的网站上，他们很好地介绍了概念和例子，但两者之间缺少了一些东西。

我会推荐教程here。这是第一部分，您也可以按照第二部分，链接将在该文章中。

通常，将.ckpt文件导出到可维护模型（.pb文件和变量文件夹）时，必须定义模型的输入，输出和方法名称，并将它们保存为{{1 }}

在文章中，您将在本部分找到我上面所说的内容：

tf.saved_model.signature_def_utils.build_signature_def

您可以按照作者在文章中定义输入和输出的方式，并对自定义模型执行相同的操作。

之后，您必须在客户端脚本中调用签名并将输入提供给服务器，然后服务器将识别要使用的方法并返回输出。您可以检查作者如何编写客户端脚本并找到调用签名和提供输入的相应部分。