如何部署tensorflow系统？张量流服务？

Question

我已经使用tf.keras构建了一个推荐系统。

我想将此部署到实际环境中。

我能做的一件事是，创建一个基于python的网络服务器（django），该服务器接受（http）休息请求，对经过训练的模型进行prediction并将结果作为休息响应返回。

我想知道是否有建议的替代方法？

我可以猜测tensorflow serving可能与我正在尝试做的事情有关，但不能确定。.

• 我将tf.keras.models.Model子类化以创建我的模型，它不仅支持model.save() model.save_weights ..我猜这可能会影响我的选择。

Answer 1

Tesnsorflow服务是您的理想之选： https://github.com/tensorflow/serving

它具有一些非常好的功能：https://youtu.be/CxUc5FJF_9w?t=1056 这段视频通常对TensorFlow服务和TFX很有帮助。