训练损失波动很大

Question

我在Pascal VOC数据集上调整SSD Mobilenet（COCO）。我在训练集中有大约17K图像，num_steps是100000.配置的详细信息是 -

train_config: {
  batch_size: 1
  optimizer {
    rms_prop_optimizer: {
      learning_rate: {
        exponential_decay_learning_rate {
          initial_learning_rate: 0.0001
          decay_steps: 800720
          decay_factor: 0.95
        }
      }
      momentum_optimizer_value: 0.9
      decay: 0.9
      epsilon: 1.0
}

然而，培训损失波动很大，如training loss

所示

我该如何避免这种情况？

感谢

Answer 1

  

尽管您的学习速度正在下降，但看来您的学习速度仍在   在后续步骤中仍然太大。

那时候我建议的事情是：

• 增加衰减
• 尝试使用另一个优化程序（例如在这种情况下对我有用的ADAM）