使用验证集在神经网络中提前停止

时间:2014-01-29 17:43:56

标签: backpropagation cross-validation neural-network

我想使用早期停止方法来避免过度拟合神经网络。 我已将数据集分为60-20-20

60岁 - 培训 20 - 验证集 20 - 测试集

我在实施早期停止时有疑问。

  1. 我们使用训练集更新一个纪元的权重。我们使用训练集在网络中得到了错误。
  2. 我们需要为验证集计算错误。我们应该平均每个验证实例的所有错误吗? E.g假设我有200个验证实例。由于我没有更新权重,我将为每个实例计算错误。那么我们应该对所有验证实例进行平均并将其报告为验证错误??
  3. 谢谢, Atish

2 个答案:

答案 0 :(得分:1)

是的,最常用的错误指标是mean squared error,它是每个培训/验证样本的平均误差平均值。

答案 1 :(得分:1)

是的,你必须找出验证集上的错误增加而不是减少的点。