以预先训练的检查点(.chkpt)或GraphDef(.pb)格式生成完全量化的模型

时间:2019-04-02 00:11:12

标签: tensorflow tensorflow-lite

通过使用TensorFlow Lite转换器tflite_convert优化TensorFlow图,并将其转换为TensorFlow Lite格式以进行8位推理。

我们有任何方法或过程可以执行相同操作,但是将它们保存为.chkpt或.pb格式吗?不是tflite格式。

如果我们看一下Tensorflow的量化意识培训文档,

先前演示的重写后评估图仅模拟量化。要从经过训练的量化模型生成真实的定点计算,请将其转换为定点内核。 TensorFlow Lite支持从create_eval_graph生成的图形进行此转换。

但是,它将具有伪量化层的冻结图转换为完全量化的TensorFlow Lite模型。我实际上想跳过这一部分,将冻结的图形转换为.chpt或.pb格式。

有可用的工具(flatbuffer,netron)来查看和提取tflite文件中的信息。但是,它们都不转换为numpy数组,.pb或.chpt格式。它只是一个可视化工具。

0 个答案:

没有答案