神经网络输入归一化均值/标准差:怎么做?

时间:2014-08-18 20:22:58

标签: neural-network normalization denormalization

我是如何使用(高斯归一化?)平均值来估算回归神经网络的输入/输出的。标准偏差归一化技术:

最重要的是,我规范化了哪些数据?

让我解释一下:

让我说我有2个输入神经元,2个隐藏神经元,1个输出神经元的训练数据:

[input1 : 10][input2: 5]
[input1:  30][input2: 255]

我是按列(神经元)还是从所有输入数据进行标准化? 输入神经元的平均值是1 =

(10+30)/2 

(10+30+5+255)/4 ? 

使用典型的XOR示例(在训练数据中只有1s和0s)尝试两种奇怪的结果,其中我在归一化时实际上失去了很高的准确度。

1 个答案:

答案 0 :(得分:1)

规范化是将输入数据的每个维度保持在一定范围内,因此通常应该在列中完成。有几种标准化方法。例如,线性归一化:它是最常用的最简单方法,通常在数据居中时使用。它由(V-Vmin)/(Vmax-V)计数。高斯归一化由(V-Vavg)/ Std。

计算