通过使用TensorFlow Lite转换器tflite_convert优化TensorFlow图,并将其转换为TensorFlow Lite格式以进行8位推理。
我们有任何方法或过程可以执行相同操作,但是将它们保存为.chkpt或.pb格式吗?不是tflite格式。
如果我们看一下Tensorflow的量化意识培训文档,
先前演示的重写后评估图仅模拟量化。要从经过训练的量化模型生成真实的定点计算,请将其转换为定点内核。 TensorFlow Lite支持从create_eval_graph生成的图形进行此转换。
但是,它将具有伪量化层的冻结图转换为完全量化的TensorFlow Lite模型。我实际上想跳过这一部分,将冻结的图形转换为.chpt或.pb格式。
有可用的工具(flatbuffer,netron)来查看和提取tflite文件中的信息。但是,它们都不转换为numpy数组,.pb或.chpt格式。它只是一个可视化工具。