Question

我想将我的代码迁移到用于在珊瑚设备上进行推理的对象检测模型的微调，但是在TF2 model zoo中看不到量化模型。

是否可以为此目的在TF2中微调模型并使用诸如量化感知训练或训练后量化之类的技术？我还没有看到任何相关的教程或问题。我还看到了一些有关TF2中的TFLite转换器量化问题的报告，所以我甚至不确定是否可以在TF2中进行量化。

Answer 1

即使对于TF1.x模型，转换也不是那么简单，我目前正为此而努力。我感到非常失望，因为我认为Coral应该比Intel NCS USB更好地支持张量流，因为它们属于同一家族。但是，看来我错了。

Answer 2

在预训练模型的微调之前，通过在配置文件的末尾添加 graph_rewriter 可以实现量化感知训练：

graph_rewriter {
  quantization { 
  delay: 48000
  weight_bits: 8
  activation_bits: 8
  } 
}