Question

我们已经训练了我们的模型并使用提供的Python脚本成功测试了它们。但是，我们现在希望将其部署在我们的网站上，并为第二轮测试运行Web服务。

是否有C ++包装器，以便我们可以像使用Python脚本一样运行/执行模型？

Answer 1

我认为最简单的方法是使用cppflow。它是TensorFlow C API的C ++包装器。它很简单，但是确实很容易使用，您不需要安装它，也不需要使用Bazel进行编译。您只需要下载C API并像这样使用它即可：

Model model("graph.pb");
model.restore("path/to/checkpoint");

auto input = new Tensor(model, "input");
auto output = new Tensor(model, "output");

model.run(input, output);

Answer 2

您将找到在C ++ here上运行对象检测的代码。您需要导出的图形（.pb格式），您可以使用the TF object detection API。

编译过去很棘手（除非您将项目放在tensorflow目录中并使用bazel编译所有内容，但您可能不想这样做）。我认为它现在应该更容易，但我不知道如何;或者您可以按照these instructions自行编译tensorflow并在cmake项目中使用它。您还有另一个在c ++ here中运行图表的示例。

是否有Tensorflow Object Detection API的C ++包装器？

2 个答案: