将Tensorflow模型部署为Windows exe

Question

我想使用Tensorflow 1.4来满足我的ML建模需求。我的用例需要：

• 在GPU上训练模型＆lt; ---我知道如何用TF做到这一点

• 在普通的盒子上部署训练过的模型 - 在 CPU 上运行 Windows （用于推理）＆lt; .exe ---- 我不知道该怎么做。

有人可以告诉我TF 1.4是否支持这个，如果有的话，请指导我或解释它是如何完成的？

Answer 1

这有点晚了，但youtube上的这个video非常适合。

他使用pyinstaller来抓取所需的所有内容，并将其全部放入一个没有任何其他内容的可执行文件中，或者将exe文件夹放在那里以及其他内容中。

我自己尝试了这个并且它运行得很好，虽然因为pyinstaller将所需的一切都打包到一个文件夹中变得非常庞大，它包括整个tensorflow库，python解释器以及如果你使用tensorflow-gpu，它还包括cudnn文件也就像600mb一样，最终有效地为你留下了超过1GB的文件。 这可以通过排除您不需要的模块来减少，我建议创建一个虚拟环境并从干净的python安装开始。

希望这无论如何都有帮助。