假设我正在针对对手写符号进行分类的问题训练神经网络。
要训练我的网络，我正在使用随机梯度下降。
Human classification在测试数据上的表现是2%，而我的neural network在训练集和验证集上分别达到了0.5%和4% error。显然，我的模型过拟合。
要改善我的性能，我可以减少 神经元的数量并应用regularization（L2和辍学）。
我知道我们使用优化器使学习更快（主要是基于动量的优化器），但是
如果我的模型过拟合时更改了优化器，是否会改善模型的性能？