CNN链接器的验证准确性下降

Question

我正在Chainer中使用CNN对细胞图像进行分类。模型的验证准确性随着主要/训练准确性的提高而下降。我想知道为什么验证准确性会下降，以及提高验证准确性的方法有哪些。

数据形状为（32、3、60、80），其中批处理大小为32，通道为3，高度和宽度分别为60和80。

除最后一层外，我已在所有层中应用了relu和dropout。在该模型中，即使经过50个时间段，训练和验证的准确性也保持不变。 下面给出的模型显示主/训练精度从0.78逐渐增加到0.98，验证精度从100历时后从0.79变为0.66。

model = Sequential(
    L.Convolution2D(None, 128, 3, 2),
    F.relu,
    L.Convolution2D(128, 64, 3, 2),
    F.relu,
    L.Convolution2D(64, 32, 3, 2),
    F.relu,
    L.Linear(None, 16),
    F.dropout,
    L.Linear(16, 4)
)

Answer 1

这不是意外行为，被称为“过度适应”。 在训练期间，机器学习模型将与验证数据一起适合于训练数据（提高训练准确性），但是从某些时候开始，模型仅适合于训练数据，因此它不适合于验证数据（降低验证准确性）

有关其他参考，请参见Overfitting。