将tensorflow模型打包为车轮文件

Question

我已经创建了我的tensorflow模型，它将充当服务。代码将托管在客户端的本地服务器上。我不想给他们我的代码，但给他们一个轮子文件。但是在遵循python的软件包分发之后，我的tensorflow文件损坏了。

Answer 1

您只能发送.pb格式的冻结推理图。

Answer 2

TensorFlow有自己的TensorFlow TFX Serving服务API。您可以在其上签出此great article。

如其网站上所述，

  

TensorFlow Serving使得部署新算法变得容易，并且   进行实验，同时保持相同的服务器体系结构和API。   TensorFlow Serving提供与TensorFlow的现成集成   模型，但可以轻松扩展以服务其他类型的模型和   数据。

您可以使用here所述的RESTful API。

您可以从这些文章中了解更多信息：

https://medium.com/@zhanwenchen/deploy-a-trained-rnn-lstm-model-with-tensorflow-serving-and-flask-part-1-introduction-and-336dbb8f02f

https://towardsdatascience.com/deploy-your-machine-learning-models-with-tensorflow-serving-and-kubernetes-9d9e78e569db

使用RESTful API→

https://medium.com/@yuu.ishikawa/introduction-to-restful-api-with-tensorflow-serving-9c60969b5b95

https://becominghuman.ai/creating-restful-api-to-tensorflow-models-c5c57b692c10