单独归一化神经网络的所有输入是否更好?

时间:2019-06-11 00:02:48

标签: neural-network normalization

我现在正在使用TensorFlow作为后端的Keras进行神经网络工作,我的模型接受5个输入,所有输入均标准化为0到1。输入的单位从m / s到米到m / s不等/ s。因此,例如,训练数据集中的一个输入可能在0 m / s到30 m / s之间变化,而另一输入可能在5 m到200 m之间变化。

最好单独且独立地对所有输入进行归一化,以使每个单位/输入具有不同的比例尺吗?还是将所有输入标准化为一个标度(在上面的示例中将0-200映射为0-1)可以提高准确性?

1 个答案:

答案 0 :(得分:1)

分别标准化每个输入。因为如果通过除以200来标准化所有内容,则某些输入对网络的影响将小于其他输入。如果一个输入在0-30之间变化,则除以200后,您将得到0-0.15的比例,输入的比例在0-200之间的变化将在除后为0-1。因此,0-30个输入将具有较少的数字,并且您告诉您的网络输入不像0-200那样重要。