在使用批次训练神经网络时，每个时期之后（在看到整个数据的额外时间之后）准确度（训练和验证）是否会增加？
我希望能够快速判断网络设置（学习速率，节点数等）是否合理。似乎有必要看到整个数据集越多，性能就越好。
所以，如果表现在一个时代减少，我是否应该担心出现问题（高学习率，高偏见）？ （或者我总是要等几个时代才能判断？）
答案 0 :(得分：2)
我想说这取决于数据集和架构。因此，波动是正常的，但总的来说损失应该改善。您可以查看这些实用指南，以更好地解释损失曲线：
http://cs231n.github.io/neural-networks-3/#loss
https://blog.slavv.com/37-reasons-why-your-neural-network-is-not-working-4020854bd607
答案 1 :(得分：1)
是的，在一个完美的世界中，人们会期望测试精度会提高。如果测试精度开始下降，则可能是您的网络过度拟合。您可能希望在达到该点之前停止学习，或采取其他措施来解决过度拟合问题。
此外，它可能是测试数据集中噪声的结果，即错误标记的示例。