如何测试.tflite模型以证明其行为与使用相同测试数据的原始模型相同？

Question

我已经根据训练过的模型生成了一个.tflite模型，我想测试一下tfilte模型给出与原始模型相同的结果。

给出相同的测试数据并获得相同的结果。

Answer 1

您可以使用 TensorFlow Lite Python解释器 来测试您的tflite模型。

它允许您像使用普通的tensorflow模型一样在python shell中输入输入数据并直接读取输出。

我已经回答了这个问题here。

您可以阅读此TensorFlow official github doc以获得详细信息。

我还发现了一个very good visualization tool，它可以直接加载.tflite文件，以便您检查模型的体系结构和模型权重。

Answer 2

TensorFlow代码库中有tflite_diff_example_test。它生成随机数据并将相同的数据输入TensorFlow＆amp; TensorFlow lite，然后比较差异是否在一个小阈值内。

您可以从Github查看TensorFlow代码，并使用bazel运行：

bazel run //tensorflow/contrib/lite/testing:tflite_diff_example_test

然后你会看到你需要通过什么参数。

Answer 3

除了@ miaout17给出的答案，调试/理解你的tflite模型（这是问题的精神），你可以

• 使用--dump_graphviz可视化图表，如https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/toco/g3doc/cmdline_examples.md#using---dump_graphviz
所述
• 使用flatc生成python api，然后通过该api解析模型 https://google.github.io/flatbuffers/flatbuffers_guide_use_python.html
• 使用json从tflite文件生成flatc并将其打印出来
• 使用tflite可视化工具： https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/tools/visualize.py（目前有bug）