将神经网络输出限制为正值

时间:2015-11-21 20:15:02

标签: r machine-learning neural-network

我正在使用R的神经网络功能来训练160个独立的神经网络模型,每个模型都有两个输入变量,并将它们部署在测试数据上。

我需要将预测限制为正值 我认为在nueralnet函数中指定act.fct =“logistic”可以达到这个目的。

但是,似乎并未应用激活功能。在检查权重之后,函数的输出似乎只是输入值和权重加偏置节点值的和积。

对于我的输出,在我试图预测的9条记录中,2条为负数 - 均为-0.0885。为简单起见,我指定了一个没有隐藏层的神经网络。在模型创建之后,我发现负值的罪魁祸首是偏差节点。虽然两个变量的权重是正的,但偏差节点是负的。

if (require(neuralnet==F)) install.packages("neuralnet"); require(neuralnet)

for (i in 1:160) {
    training.list[[i]] <- neuralnet(nn.training[,i] ~  nn.training[,i+160]+nn.training[,i+320], nn.training, 
                              act.fct = "logistic", hidden = 0, threshold = 0.01)                                  
 }

 plot(training.list[[1]])

# Load test data in proper format 
load("nn_test.Rdata")

 # predict on only the first dataset for illustration's sake
 a <- compute(training.list[[1]], cbind(test[,1], test[,1+160]))

a的输出是

$net.result
         [,1]
  [1,]  0.44661508
  [2,]  0.31966633
  [3,]  0.01916739
  [4,] -0.08849801
  [5,] -0.08849801
  [6,]  0.39840670
  [7,]  0.33252190
  [8,]  0.33573579
  [9,]  0.38555113

图中的权重为0.71174,每个输入节点为0.39118,偏置节点为-0.0891。

为了将输出限制为正值,我需要指定什么?

1 个答案:

答案 0 :(得分:1)

默认情况下,act.fct 应用于隐藏图层。如果您希望它也影响输出 - 您必须设置linear.output = FALSE

来自documentation

  

act.fct可区分函数,用于平滑交叉积的结果   协变量或神经元和权重。另外还有“后勤”字符串   并且“tanh”可用于逻辑函数和切线双曲线。

     

linear.output logical如果act.fct不应该应用于输出神经元设置线性输出   是的,否则为FALSE。