我想保存一个用于从C ++进行推理的模型,我正在将SavedModel
s视为suggested by the documentation。
现在tf.saved_model.simple_save
似乎是一种便捷功能,可以轻松地在SavedModel
中创建Session
:提供输入,输出和导出目录:
simple_save(session,
export_dir,
inputs={"x": x, "y": y},
outputs={"z": z})
查看此API时,该函数在应用程序中看起来相当广泛;但是文档警告我们
SavedModel
将在TensorFlow Serving中加载并支持Predict API。要使用Classify,Regress或MultiInference API,请使用tf.Estimator
或较低级别的SavedModel
API。
我对Tensorflow服务并不熟悉,但似乎Predict和Classify aso之间的这些区别。与Tensorflow服务有关。
实际上tf.saved_model.simple_save
上的文档说它是一个
便捷功能,用于构建适用于服务的保存的模型 。
(重点是我的)。
因此tf.saved_model.simple_save
可以创建SavedModel
个服务,但是我的问题是,
tf.saved_model.simple_save
用于创建SavedModel
以便在C ++中进行推理,