Question

在训练CNN从我自己的数据集中检测对象时遇到一个奇怪的问题。我正在使用转移学习，并且在培训开始时，损失值正在降低（如预期的那样）。但是一段时间之后，它变得越来越高，我不知道为什么会这样。

同时，当我查看Tensorboard上的 Images 标签以检查CNN预测对象的性能如何时，我可以看到它做得很好，看起来并不像现在随着时间的推移变得越来越糟。而且，“精确度”和“召回率”图表看起来不错，只有“损失”图表（尤其是category_loss）显示出随时间增加的趋势。

以下是一些具体细节：

我有10种不同类别的徽标（例如DHL，宝马，联邦快递等）
每堂课约600张图像
我在Ubuntu 18.04上使用tensorflow-gpu

我尝试了多个预先训练的模型，最新的模型是 faster_rcnn_resnet101_coco ，它具有以下配置管道：

model {
  faster_rcnn {
    num_classes: 10
    image_resizer {
      keep_aspect_ratio_resizer {
        min_dimension: 600
        max_dimension: 1024
      }
    }
    feature_extractor {
      type: 'faster_rcnn_resnet101'
      first_stage_features_stride: 16
    }
    first_stage_anchor_generator {
      grid_anchor_generator {
        scales: [0.25, 0.5, 1.0, 2.0]
        aspect_ratios: [0.5, 1.0, 2.0]
        height_stride: 16
        width_stride: 16
      }
    }
    first_stage_box_predictor_conv_hyperparams {
      op: CONV
      regularizer {
        l2_regularizer {
          weight: 0.0
        }
      }
      initializer {
        truncated_normal_initializer {
          stddev: 0.01
        }
      }
    }
    first_stage_nms_score_threshold: 0.0
    first_stage_nms_iou_threshold: 0.7
    first_stage_max_proposals: 300
    first_stage_localization_loss_weight: 2.0
    first_stage_objectness_loss_weight: 1.0
    initial_crop_size: 14
    maxpool_kernel_size: 2
    maxpool_stride: 2
    second_stage_box_predictor {
      mask_rcnn_box_predictor {
        use_dropout: false
        dropout_keep_probability: 1.0
        fc_hyperparams {
          op: FC
          regularizer {
            l2_regularizer {
              weight: 0.0
            }
          }
          initializer {
            variance_scaling_initializer {
              factor: 1.0
              uniform: true
              mode: FAN_AVG
            }
          }
        }
      }
    }
    second_stage_post_processing {
      batch_non_max_suppression {
        score_threshold: 0.0
        iou_threshold: 0.6
        max_detections_per_class: 100
        max_total_detections: 300
      }
      score_converter: SOFTMAX
    }
    second_stage_localization_loss_weight: 2.0
    second_stage_classification_loss_weight: 1.0
  }
}

train_config: {
  batch_size: 1
  optimizer {
    momentum_optimizer: {
      learning_rate: {
        manual_step_learning_rate {
          initial_learning_rate: 0.0003
          schedule {
            step: 900000
            learning_rate: .00003
          }
          schedule {
            step: 1200000
            learning_rate: .000003
          }
        }
      }
      momentum_optimizer_value: 0.9
    }
    use_moving_average: false
  }
  gradient_clipping_by_norm: 10.0
  fine_tune_checkpoint: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/models2/faster_rcnn_resnet101_coco/model.ckpt"
  from_detection_checkpoint: true
  data_augmentation_options {
    random_horizontal_flip {
    }
  }
}

train_input_reader: {
  tf_record_input_reader {
    input_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/train.record"
  }
  label_map_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/label_map.pbtxt"
}

eval_config: {
  num_examples: 8000
  # Note: The below line limits the evaluation process to 10 evaluations.
  # Remove the below line to evaluate indefinitely.
  max_evals: 10
}

eval_input_reader: {
  tf_record_input_reader {
    input_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/test.record"
  }
  label_map_path: "/home/franciszek/Pobrane/models-master/research/object_detection/logo_detection/data2/label_map.pbtxt"
  shuffle: false
  num_readers: 1
}

在这里，您可以看到经过近23小时的训练并达到12万步以上的训练结果：

所以，我的问题是，为什么损失值会随着时间增加？它应该变小或保持大致恒定，但您可以在上图中清楚地看到上升趋势。我认为一切都已正确配置，并且我的数据集相当不错（而且.tfrecord文件也已正确“构建”）。

要检查是否是我的错，我尝试使用其他用户的数据集和配置文件。因此，我使用了racoon dataset作者的文件（他在his repo上提供了所有必要的文件）。我刚刚下载了它们，并开始进行了未经修改的培训，以检查是否会得到与他相似的结果。

令人惊讶的是，经过82k步长后，我得到的图表与链接文章中显示的图表完全不同（在22k步长后捕获的图表）。在这里，您可以看到我们的结果比较：

My losses与his TotalLoss
My precision与his mAP

很明显，我的PC上的某些操作有所不同。我怀疑这可能是我在自己的数据集上损失越来越大的同一原因，这就是我提到它的原因。

Answer 1

totalLoss是其他四个损失的加权总和。（RPN cla和reg损失，BoxCla cla和reg损失），它们都是评估损失。在tensorboard上，您可以选中或取消选中以查看评估结果，仅用于训练或仅用于评估。（例如，下面的图片有火车摘要和评估摘要）

如果评估损失增加，则可能表明模型过拟合，此外，精度指标略有下降。

要尝试更好的微调结果，您可以尝试调整四个损失的权重，例如，可以增加BoxClassifierLoss/classification_loss的权重，以使模型更好地关注此指标。在您的配置文件中，second_stage_classification_loss_weight和first_stage_objectness_loss_weight的损失权重均为1，而其他两个均为2，因此该模型目前将重点放在另外两个上。

关于loss_1和loss_2为什么相同的另一个问题。这可以通过查看张量流图来解释。

此处loss_2是total_loss的摘要，（请注意，total_loss与totalLoss中的不同），红色圆圈的节点是tf.identity节点。该节点将输出与输入相同的张量，因此loss_1与loss_2

相同

经过一段时间的训练后，训练损失值正在增加，但是该模型可以很好地检测出物体

1 个答案: