标签: python tensorflow keras quantization
我正在尝试自己量化自定义keras模型。在权重旁边,我还想对激活进行量化,以使计算密集型卷积层具有所有不动点值。我可以在模型中添加仅用于推理而不用于训练的自定义图层吗?我想以最高的精度进行训练,并且仅量化训练后的数量以及明显的推理过程中的激活。
另一种替代方法可能是将训练后的权重保存为.h5文件,并构建一个包含激活量化层的相似模型。但是我猜想,如果模型结构不完全相同,将会丢掉keras。
我刚开始使用ML和TF。非常感谢您提供的任何提示!