烤宽面条 - 为什么验证损失突出绿色？

Question

我正在运行MNIST神经网络示例，在训练分类器时，验证损失列（和训练损失）的某些值以绿色突出显示。如果我的学习率为0.01，则全部为绿色，但如果我将其增加到0.1，则只有一半会突出显示。

这突出显示的含义是什么意思？

输出示例：

Answer 1

在不知道内部结构的情况下，我看到了一种模式。

• 只要有改进就将每一行着色（最小化 - >它更低）
  • 火车损失蓝色
  • val-loss green
• 当丢失/验证确实增加时停止着色
  • 一次性增加后不要再开始着色

不同的学习率会影响不同的列车损失/减少损失路径，因此会产生一些不同的着色。

你的例子适合那里，因为较低的学习率通常更稳定（从迭代到迭代）降低损失（更蓝，更绿）。