Question

我正在研究Tensorflow服务。我不熟悉Tensorflow，遇到了很多困难，但是我正在研究Google文档或其他文档。

例如，在下载Tensorflow Serving源文件并进行编译后

tensorflow_model_server --port = 9000 --model_name = mnist --model_base_path = / tmp / mnist_model

将正常工作并使用gRPC与客户端通信。

但是，我应该只对tensorflow_model_server这样的Google已经提供的二进制文件使用tensorflow-serving吗？

或者我可以将标头包含在C ++中并将其添加到库中以便可以任意编写程序吗？

Answer 1

要提供服务，您可以使用tensorflow serving C++ API，这里是一些code example。

此外，Google还提供了服务于模型的docker映像，并以RESTful和gRPC样式公开客户端API，以便您可以使用任何语言编写客户端。

tensorflow_model_server是该Dockerized服务器的一部分，您将需要编写客户端以与其进行交互，这是一些代码示例，它们可以对RESTful或gRPC进行调用服务器。