神经网络中rprop的默认初始学习率是多少？

Question

如果我选择rprop作为r中的算法，神经网络的默认初始学习率是多少？

Answer 1

在rprop中实现的neuralnet算法似乎使用与Rprop上paper中相同的默认值。 （有关更多详细信息，请参见neuralnet:::varify.variables。）在本文的C节下，

  

学习开始时，所有更新值均设置为初始值delta_0。由于delta_0直接确定第一个权重步长的大小，因此应根据权重本身的初始值进行选择，例如delta_0 = 0.1（默认设置）。该值的选择并不严格，因为它会随着学习的进行而适应。

此外，在利用Rprop算法的内部函数neuralnet:::rprop中，我们看到了一行

learningrate <- as.vector(matrix(0.1, nrow = 1, ncol = length.unlist))

因此，使用rprop的默认学习率为0.1。