神经网络数据规范化

时间:2016-07-28 17:47:39

标签: machine-learning neural-network normalization

我目前正在训练具有tanh激活功能的神经网络(基本反向传播,没有重量衰减,动量或任何其他改进)来映射任意函数。训练数据在区间(-1,1)内。

我的培训方法如下:

  1. 将数据拆分为两部分(培训和验证数据)。
  2. 将整个培训数据提供给网络(通过重量更新)。
  3. 提供验证数据(无重量更新)并计算所有验证条目的MSE。
  4. 重复(从2开始)直到验证t-1处的MSE几乎等于t处的MSE。
  5. 我尝试使用

    对数据进行规范化
    f(x)=(x-mean)/std_deviation
    

    但验证数据的MSE未低于约1.49。没有标准化过程,它达到0.005。有人对此进行了解释或改进了我的培训程序和数据规范化吗?

0 个答案:

没有答案