在未安装Tensorflow的情况下运行Tensorflow模型

Question

我有一个运行良好的TF模型，用Python和TFlearn构建。有没有办法在不安装Tensorflow的情况下在另一个系统上运行此模型？它已经过预先训练，所以我只需要通过它运行数据。

我知道tfcompile（Thread here），但设置起来似乎相当复杂。还有其他选择吗？

Answer 1

  

有没有办法在不安装Tensorflow的情况下在另一个系统上运行此模型？它已经过预先训练，所以我只需要通过它运行数据。

是

训练模型后。使用tf.python.tools.freeze_graph和tf.python.tools.optimize_for_inference_lib冻结和优化模型，以便在Android等其他设备上进行推理。

以上的输出将是

1. 冻结图表protobuf文件（.pb）
2. 优化图表protobuf文件（.pb）

[这些函数会将模型的所有变量转换为常量操作并导出到protobuf文件]

使用优化的图形protobuf文件，并使用Java和其他Tensorflow API中提供的推理方法加载它。传递数据并获得输出。

[请注意，您没有安装完整的Tensorflow，但只需要推理库]

这里展示了一个简单的例子：

https://omid.al/posts/2017-02-20-Tutorial-Build-Your-First-Tensorflow-Android-App.html

适用于Android，但Java的程序应该相同。

对于C ++：click here