如何在外部非Tensorflow环境中测试经过训练的CNN模型？

Question

我已经为我的自定义对象检测训练了一个预训练的Tensorflow模型，并且已经导出了推理图文件和检查点文件。现在，我希望其他人也可以通过提供一些新图像并查看结果来测试我训练有素的模型。但是，如果外部“评估者”没有任何Tensorflow环境并且他们也不想设置它，那么最好的方法是什么？

我用过：

Miniconda3，Tensorflow v1.10.0（gpu）， Tensorboard v1.10.0， Cudatoolkit 8.0，TF预先训练的模型“带有Mobilenet v1的SSD”。

我找到并阅读的所有手册仅指导您通过运行Tensorflow object_detection文件夹中的某些代码来测试模型。但是，对于以前没有做过的人来说，设置TF可能会很麻烦。我认为也许可以通过某种方式“打包”它，以便其他人可以轻松地轻松运行它。仅作为示例，让我们考虑“轻松”的情况，我向他们发送了一个装有现成Jupyter Notebook的文件包，因此唯一的努力就是将其打开包装并学习如何使用笔记本。

请提供可能不同的建议，不同的专业知识水平和对“轻松”的不同理解。但是请考虑我也是该领域的新手。

Answer 1

看看tfdeploy。

这是一个轻量级的软件包，允许您使用numpy将tensorflow模型部署为可调用对象（这是更合理的依赖方式）。

Answer 2

TensorFlow Serving在这里可能是一个过大的选择（因为它需要Docker），但是它通过REST API提供了推理环境。