在Cifar10上训练GAN时的异常损耗曲线

时间:2019-05-19 18:57:07

标签: machine-learning generative-adversarial-network

我已经建立了一个可生成mnist位数的GAN,现在我正在尝试使其与cifar10的汽车一起使用。但是,cifar10的汽车输出通常是单色的,并且随着发电机损耗的减少和鉴别器损耗的增加,会定期切换为不同的颜色。

以下是在mnist上进行训练时的生成器和鉴别器损耗图: mnist loss

相比之下,cifar10的损失在很长一段时间内一直保持平稳,随后突然上升: cifar10 loss

对于cifar10,GAN会生成各种阴影的近乎单色图像,例如: cifar10 monochrome output

大约10个时期后,它开始输出有趣的纹理,这些纹理与图像没有任何相似之处:

cifar10 texture output

让它运行50个纪元并不能提高图像质量。损失的模式变得不太明显,但是您仍然可以在训练开始时看到规律的峰值:

cifar10 epoch 50 losses

enter image description here

我尝试弄乱学习率,激活函数,层数,卷积核大小,嘈杂的标签,翻转的标签,嘈杂的鉴别器输入等,但似乎没有任何效果。除了不正确的超参数外,似乎有更大的问题。

有人能认出这种异常情况吗?

0 个答案:

没有答案