卷积神经网络预测结果相同

时间:2015-02-13 20:49:54

标签: machine-learning neural-network conv-neural-network

我正在运行一个简单的卷积神经网络,进行回归并预测结果。它预测了30个输出(浮点数)

无论输入如何,预测结果几乎相同。 (收敛于训练产出的意思)

基于该数据集,1000次迭代后的训练收敛到最大损失0.0107(这是一个好的)。

What is causing this? 

我试图将偏差设置为1.0,它带来的变量很少但下面仍然相同。当我将偏置设置为0时,结果要差得多,所有输出都是100%相同。我已经使用正则化最大值(0,x)没有结果的改进。

输出如下。如您所见,第一,第二,第三阵列几乎相同..

 [[ 66.60850525  37.19641876  29.36295891 ...,  71.91300964  47.92261505
   85.02180481]
 [ 66.4874115   37.09647369  29.23101997 ...,  71.90777588  47.74259186
   85.10979462]
 [ 66.54870605  37.19485474  29.36085892 ...,  71.84892273  47.8970108
   85.05699921]
 ..., 
 [ 65.7435379   36.78604889  28.57537079 ...,  71.98916626  47.03699493
   85.88017273]
 [ 65.7435379   36.78604889  28.57537079 ...,  71.98916626  47.03699493
   85.88017273]
 [ 65.7435379   36.78604889  28.57537079 ...,  71.98916626  47.03699493
   85.88017273]]

网络模型使用此参数运行

base_lr: 0.001
lr_policy: "fixed"
display: 100
max_iter: 1000
momentum: 0.9

1 个答案:

答案 0 :(得分:0)

根据输出和偏差对结果的影响很大,我感觉可能你没有规范化你的输入和输出。

尝试将它们在-1和-1之间标准化。 1。