神经网络对于标准化数据不够精确

时间:2016-04-02 20:29:41

标签: neural-network

我的训练数据没有标准化,包含-2000到2000之间的数字。 如果我对训练数据的输入为300,我会将其标准化:

1 / 300 = 0,0033~

所以它的范围是-1 - 1.

问题是标准化值之间的差异会太小。

1 / 300 = 0,00333~
1 / 299 = 0,00334~

它需要神经网络才能获得极高的精确度。 我使用基于梯度的反向传播算法,而tanh是激活功能。神经网络需要太长时间才能获得精确度。

我应该使用什么样的学习方法,或者如何改善我目前的神经网络以完成这项任务? 谢谢!

1 个答案:

答案 0 :(得分:0)

您可以对前几个图层使用ReLU(线性激活)激活功能,并对输出图层执行tanh激活。

Input (-ReLU-> Hidden L.)*n -tanh-> Output