标签: validation training-data
我正在训练一个深度排名模型,看到训练损失减少了,并且验证损失通常在前几个时期也减少了,但是随后我看到了验证损失中怪异的周期性波动。我已经仔细检查了所有训练数据都用于一个训练时期,并且所有验证数据都用于计算每个时期之后的验证损失。
在下图中,训练损失以红色显示。验证损失显示为绿色。
我试图弄清楚发生了什么。任何想法都值得赞赏。