是否为AutoEncoder建议使用功能缩放?

时间:2019-03-20 04:25:52

标签: python neural-network deep-learning pytorch autoencoder

问题:

已将Staked Auto Encoder应用于具有25K行和18列且均为浮点值的数据集。 SAE用于通过编码和解码进行特征提取。

当我在没有特征缩放的情况下训练模型时,即使经过200个历元,损失仍约为50K。但是,应用缩放后,从第一个纪元开始损失约为3。

我的问题:

  1. 在将SAE用于特征提取时,建议应用特征缩放

  2. 这会影响解码过程中的准确性吗?

1 个答案:

答案 0 :(得分:0)

  1. 除少数例外,您应始终在机器学习中应用特征缩放,尤其是在像SAE中使用梯度下降时。缩放功能将确保成本函数更加平滑,从而更快地收敛到全局(希望)最小值。

还值得注意的是,经过1个缩放周期后,损耗要小得多,这应该是用于计算损耗的较小值的结果。