自动编码器的正规化太强(Keras自动编码器教程代码)

时间:2017-04-27 12:18:42

标签: python keras autoencoder regularized

我正在使用本教程关于自动编码器:https://blog.keras.io/building-autoencoders-in-keras.html

当我为正则化参数设置10e-5时,所有代码都正常工作,但性能非常糟糕(结果很模糊),这是教程代码中定义的参数。实际上,我需要将正则化减少到10e-8以获得正确的输出。

我的问题如下:为什么结果与教程有如此不同?数据相同且参数相同,我没有预料到差异很大。

我怀疑从2016年5月14日起,Keras功能的默认行为已经改变(在所有情况下都会执行自动批量规范化?)。

输出

Link to the blurred image output with 10e-5 regularization

  • 10e-5正则化(模糊); 50个时代后val_loss的{​​{1}}和100个时期后的0.2967
  • 0.2774正规化:10e-8 val_loss经过50个时期后0.1080经过100个时代后。
  • 没有正规化:50个时期后0.1009 val_loss和100个时期后0.1018

完整代码(供参考)

0.0944

1 个答案:

答案 0 :(得分:1)

我有同样的问题。它在GitHub https://github.com/keras-team/keras/issues/5414上 似乎您只是更改常量是正确的。