这是加速深度神经网络训练的kFold交叉验证的有效方法吗?

时间:2017-06-24 01:38:10

标签: deep-learning

在卷积神经网络训练的背景下,我需要对我的训练集进行10倍交叉验证。 10次​​折叠中只有1次在我的GPU上至少需要一个小时,这意味着所有10次训练的总时间至少需要10个小时!为了加速训练,如果我从其他KFold模型(fold2,fold3 ... fold10)的第一个折叠(fold1)加载和调整训练有素的模型,我的kFold结果是否有效?有副作用吗?

1 个答案:

答案 0 :(得分:0)

这不会进行任何交叉验证。

重新培训网络的目的是确保它在不同的数据子集上进行培训,并且对于每次完整的培训,它都会保留一组从未见过的验证数据。如果您从之前的培训实例重新加载权重,那么您将对网络已经看到的数据进行验证,并且您的交叉验证分数将被夸大。