我正在尝试构建一个CNN模型,我有大约44,000张6类图像,图像尺寸为99X99。首先,我使用SGD优化器尝试了ResNet10,我将其设置为30个纪元,学习率为0.001,收到的最佳模型为22个纪元,但最后2个类的准确性并不那么好,然后尝试了U-Net并添加了Autrous Spacial Pyramid集中作为中间层,并使用ADAM优化器将其设置为30个纪元,学习速率为0.001,并在5个纪元获得最佳模型,并且精度很好,所以我想知道的是,对于5个纪元来说,模型还为时过早收敛,我应该依靠这个模型吗?
答案 0 :(得分:0)
嗯,ADAM优化器的确收敛得更快,从而使训练更快,但是它有自己的陷阱 https://shaoanlu.wordpress.com/2017/05/29/sgd-all-which-one-is-the-best-optimizer-dogs-vs-cats-toy-experiment/观看此博客,他们在这里描述SGD比ADAM更好