训练精度低会导致过度拟合吗？

Question

我正在处理文档分类问题，并且尝试应用基本的RNN / LSTM模型。

我制作了多层LSTM模型并训练了15个时期，但获得了大约53％的训练资格。和41％的考试成绩。增加并符合测试要求。下降到约33％。
我知道是否符合测试标准。低于训练水平，可能过拟合。过度拟合的原因是，该模型甚至训练了火车数据集的噪声。但我认为，如果发生过拟合现象，请按照acc进行培训。必须相当高（80-90％）并通过测试。远低于该值，因为过度拟合意味着该模型在字面上“过度拟合”以训练数据集。

现在，我想知道为什么我在训练15个纪元时却得到10％的较低精度，而得到的训练准确率仅为53％。这是否过拟合？如果我的培训水平很低，会发生过度拟合吗？

非常感谢！

Answer 1

训练准确性低表示该模型没有足够的能力来拟合训练数据（假设数据集是一致的）。这通常被称为“不合身制度”。但是即使那样，由于数据分布和噪声的差异，也不一定能保证验证/测试的准确性是相同的。如果数据集较小，则尤其如此。在您的情况下，您可以增加模型容量（通过添加更多层，增加神经元数量等），从而可以在训练数据上实现高精度。之后，您可以添加不同的正则化技术（辍学，体重减轻等）以减少过度拟合。