如何使用C ++为tensorflow加载检查点和推理？

Question

我有Tensorflow和python api并得到了这些检查点模型文件：

model.ckpt-17763.data-00000-of-00001
model.ckpt-17763.index
model.ckpt-17763.meta

但是在集成到生产环境中时，我想要一个C / C ++共享库（.so文件）。所以我需要使用C ++代码加载这些模型文件和推理并编译到共享库。这样做有一些教程或样本吗？

Answer 1

您可以编写c ++代码，使用here给出的说明加载和使用您的图表。

您可以使用文件here在TF存储库外部创建一个带有tensorflow的Cmake项目，并编译您的库。

但是，您仍然需要.so旁边的.ckpt文件，我不知道如何将它们插入其中。

关于SO有很多问题，还有一些教程（参见this answer中引用的两篇），但由于张量流很快发展，它们很快就会过时，而且它总是一个为了让它正常工作（完全可行，并且变得更容易），一点点努力。