NN中输入的数值的标准化

时间:2016-12-22 10:43:55

标签: tensorflow neural-network deep-learning keras

我读了很多关于CNN中图像标准化的论文。 但我没有找到这个案子的答案。 让我们说,我的第一层输入是: [1,4234,90420394.43,0] 我必须将它标准化吗? 因为,梯度下降应该能够识别出什么是重要的参数以及如何使用W&#39的矩阵来处理它?<​​/ p>

最后一个问题,如果我真的需要将其标准化,我会有一个0到1之间的值向量吗? 信息丢失了吗? (因为它似乎只是一个重新缩放,相对差异保持不变,所以,在这种情况下是什么问题?)

1 个答案:

答案 0 :(得分:2)

答案并非针对CNN中的图像,而是针对神经网络。你对渐变下降应该解决的直觉是正确的,系统应该学会自然地扩展,但在相同的范围内输入有助于保持梯度步长相同,这将有助于您的网络融合更快(没有这个,网络可能无法收敛)。

此外,正规化等技术可直接使用权重值,因此可能会受到不平衡量表的影响。

还有batch normalization,它通常用于图像CNN,与规范化输入值无关。