tensorflow lite模型已经量化了吗?

时间:2018-03-02 01:31:47

标签: tensorflow quantization tensorflow-lite

转换后的tensorflow lite模型是否始终具有量化计算和输出? 或者它取决于张量流模型的输入和推理类型?

1 个答案:

答案 0 :(得分:2)

这取决于推理类型。

首先,输入模型应该使用量化操作进行检测,https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/quantize可以对此有所帮助。

应将结果eval图提供给TOCO,以便使用--inference_type = QUANTIZED_UINT8进行转换,并为输入数组提供正确的--mean_values和--std_values。

有关如何为量化模型调用TOCO的一些示例,请参阅https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/toco/g3doc/cmdline_examples.md