如何部署Tensorflow训练模型以推断Windows独立应用程序

Question

我想在Windows独立桌面应用程序中使用Tensorflow培训的模型。我只需要执行预测，我可以使用Tensorflow Python API训练模型。推荐的方法是什么？

我知道有一个C ++ API，但编译起来真的很难，特别是在Windows上。我能为Windows找到任何预构建的C ++ Tensorflow二进制文件吗？

使用Tensorflow作为Windows安装程序的先决条件，是否有一种简单的方法来分发Python？

我可以在其他技术中导入Tensorflow模型并将其用于推理吗？ OpenCv DNN模块有一个从Tensorflow导入数据的功能，但我知道它有很多限制，我无法导入和使用OpenCv模型。

感谢您的帮助！

Answer 1

我正在挑战和你一样的问题。 你应该至少尝试编译它（尝试CMake，它可能更容易）

如果您仍有问题：

• Compiler is out of Heap Space
• Standalone Windows Lib
• Basic Tensorflow Handling with C++

Answer 2

我问a similar question并最终找到了答案的方法。最后，我发现Tensorflow instructions实际上非常好（这是我读的那些很糟糕！）。我没有尝试过使用Bazel for Windows，但是使用CMake构建Tensorflow最终工作正常。

主要问题是编译器堆空间问题。如果您使用的是MS Visual Studio 32位编译器（默认），这似乎总是出现在某个随机位置。关键是确保运行vcvarsall.bat或vcvars64.bat或调用64位编译器所需的任何内容（在任务管理器中，它应显示为cl.exe，而不是{{1我觉得很难（读取：不可能）让Visual Studio使用64位编译器，但使用cl.exe *32工具在命令行上编译工作正常。

一旦你可以构建示例程序，你就有了一个应用程序的例子，它链接到静态tensorflow库来完成它的工作。您可以根据需要创建自己的应用程序链接到此库。