是否有必要为冻结层定义向后函数？

Question

我有一个功能拟合网络，有4个隐藏层。

我需要为第一个和第三个图层找到合适的权重， 而第二和第四层是某些规范化图层并且不需要学习，所以我只是通过设置它们来冻结它们学习率为零。

我的问题是：

我应该为这两个冻结层定义向后功能吗？

我在caffe中saw表示没有任何可学习参数的池化层具有向后功能。

提前致谢，

Answer 1

是的，你需要一个向后传球，否则你的学习将停在这一层（它下面没有任何东西可以学习）。即使对于不可学习的图层，您也需要计算有效渐变。