测试集相关性降低，而训练集相关性增加

Question

训练神经网络。我的测试集相关性在下降，而训练集相关性增加。

可能有什么问题？

Answer 1

这是预期的行为。您只是想象您的网络的过度拟合。它试图“努力”对训练数据进行建模，结果失去了它的泛化能力（测试数据得分）。出于这个原因，你不应该训练神经网络“在训练集上出现一些错误”，也不应该“只要你能”，而是用一些更合理的技术来训练，比如正规化技术（至少是重量衰减）和/或提前停止技术。