验证准确度能达到列车精度吗？

Question

我正在训练我的神经网络，形状为3585-500-95。经过一些迭代，我得到了这样的东西：

似乎验证集的准确性不再上升。我尝试过L2正则化和丢失但没有区别。所以我想知道这是否是这个nnet可以获得的最终状态？如果在常规情况下验证集的准确性低于训练集的准确性是正常的吗？

Answer 1

是的，在正常情况下，确认验证的准确性低于训练集是正常的。

如果您说已经使用过辍学，那么您可能接近训练结束。如果您愿意，可以尝试不同的模型架构，更多层，更高的丢失，......

更多的数据肯定会有所帮助，但如果这是不可能的，并且您希望更进一步，可以尝试伪标记。这无济于事，但在大多数情况下会有所帮助。