训练精度达到100％后突然降低，之后恢复到100％。它经常发生

Question

我将自己的图像模拟用作数据集0-9, A-Z，nac：

• 共有37个类别，
• 有十五种字体，
• 每个字体每个字符1000个字，
• 共有509000张图片（某些字体中缺少某些字符），
• 其中70％作为训练集，30％作为测试集。

图的大小是28x28灰度，黑色背景和白色字。

使用tensorflow mnist手写识别演示网络（2层转换）。使用tf.nn.softmax_cross_entropy_with_logits计算损失。

如图所示，分别为10000和20000次迭代的结果，为什么会出现这种奇怪的情况？精度突然下降（定期）

迭代10000

迭代20000

Answer 1

我认为这与我的问题有关：

Loss increases after restoring checkpoint

看看这个Tensorboard chart

就我而言，每次从检查点恢复模型时，我的表现都会下降。