选择神经网络中的学习率

Question

我建立了一个神经网络。在权重更新步骤中 平均误差quadratiqur直接转到0例如

mean error quadratic 1 =  1.2
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 ....................

我不知道是什么问题

我的网络的大小是：

输入= 324 * 540    target = 10 * 540

当我尝试使用此尺寸的其他数据时

输入= 81 * 540    target = 10 * 540

它有效。

问题可能在于学习率？

Answer 1

这听起来像是平均误差二次计算器的问题。

nn无法快速收敛（如您所知），并且nn的问题可能会引发错误。例外情况是，如果nn恰好舍入到能够提供与特定样本匹配的输出的数字（如果答案为0且所有权重都舍入为0）。

基本上，我怀疑这是由于一小部分样本数据，或者是平均误差二次计算器的问题。

希望这有帮助！