可以使用tf.saved_model.simple_save创建C ++的SavedModel吗?

时间:2018-07-10 12:19:15

标签: python c++ tensorflow

我想保存一个用于从C ++进行推理的模型,我正在将SavedModel s视为suggested by the documentation

现在tf.saved_model.simple_save似乎是一种便捷功能,可以轻松地在SavedModel中创建Session:提供输入,输出和导出目录:

simple_save(session,
            export_dir,
            inputs={"x": x, "y": y},
            outputs={"z": z})

查看此API时,该函数在应用程序中看起来相当广泛;但是文档警告我们

  

SavedModel将在TensorFlow Serving中加载并支持Predict API。要使用Classify,Regress或MultiInference API,请使用tf.Estimator或较低级别的SavedModel API。

我对Tensorflow服务并不熟悉,但似乎Predict和Classify aso之间的这些区别。与Tensorflow服务有关。

实际上tf.saved_model.simple_save上的文档说它是一个

  

便捷功能,用于构建适用于服务的保存的模型

(重点是我的)。

因此tf.saved_model.simple_save可以创建SavedModel个服务,但是我的问题是,

  • 还可以tf.saved_model.simple_save用于创建SavedModel以便在C ++中进行推理,
  • 如果是,此功能可以创建的模型有哪些限制? (考虑到服务这一事实,确实有一些限制。)

0 个答案:

没有答案