是否可以在keras模型中添加仅在推理期间应用的图层?

时间:2018-11-22 17:27:44

标签: python tensorflow keras quantization

我正在尝试自己量化自定义keras模型。在权重旁边,我还想对激活进行量化,以使计算密集型卷积层具有所有不动点值。我可以在模型中添加仅用于推理而不用于训练的自定义图层吗?我想以最高的精度进行训练,并且仅量化训练后的数量以及明显的推理过程中的激活。

另一种替代方法可能是将训练后的权重保存为.h5文件,并构建一个包含激活量化层的相似模型。但是我猜想,如果模型结构不完全相同,将会丢掉keras。

我刚开始使用ML和TF。非常感谢您提供的任何提示!

0 个答案:

没有答案