调整深度神经网络中的学习率

时间:2017-04-04 07:35:31

标签: neural-network deep-learning

目前我正在训练一个YOLO模型来检测物体,但我注意到有时输出的损失就像在一个循环中,例如"在20分钟的训练中,我的损失在0.2到0.5之间我的程序减少到0.2的时间自动增加到0.5并且循环就像那样"

我的问题是:如果损失循环,我是否需要更改学习率?

1 个答案:

答案 0 :(得分:0)

学习率是可能的(不是唯一的)。优化学习率(以及在需要时安排衰退)可能是培训过程中最重要的事情。

你需要对损失价值有一个很好的认识(大致你期望获得什么以及在培训开始时损失的价值是多少)。 此外,由于YOLO是一种物体检测算法(我不完全记住纸张的细节),因此分类或回归或两者都有很高的损失。

另请查看您的数据。在训练中使用之前,您可能需要对数据进行随机播放。

这是一个迟到的答案,但如果你给我反馈我所提到的内容,我可能会提供更多帮助。