当输入/输出具有不同的范围时，是否应该改变学习率？

Question

我有一个现有的Caffe CNN，它获得一个224 * 224的图像作为输入，每个像素的单个值在[0,100]范围内。输出的大小为56 * 56，每个类别为313个类别之一。

现在我想更改输入/输出类型并在这个新网络上训练模型。输入值在[0,1]范围内，输出由324个类组成。

由于输入数据范围的改变，我应该更改基本学习率吗？

Answer 1

不，您的学习率与您的数据无关。它只是在更新权重之前乘以损失梯度的一个因素。您可以将其视为一个百分比，而不是绝对的。