使用Keras培训稀疏模型

Question

我正在尝试训练稀疏模型，即一些模型参数在优化期间必须保持为零。

这是否可以在Keras中为参数定义一个掩码，以便优化器不会更新被屏蔽的掩码？

不幸的是，冻结一层不起作用，因为我需要以更细粒度的方式屏蔽参数。

Answer 1

您可以使用tf.where在参数和tf.stop_gradient(parameters)之间选择元素。