Pybrain回归并未收敛到合理的值

时间:2013-08-16 09:05:00

标签: numpy scipy pybrain

我是PyBrain的初学者(并且对ANN来说相当新),所以为了熟悉使用PyBrain,我试图训练一个sin函数。我的输出几乎没有意义---对于每个数据点,我得到0,-0或一些固定实数的输出(在下面的例子中我得到一个实数)。这向我表明我没有正确训练。

我一直在尝试通过SupervisedDataSet(1,1)创建一个输入和一个输出的数据集并使用BackPropTrainer()进行训练。我已经广泛阅读了PyBrain文档,它相当稀疏,示例并不好。我的输入是一个范围内的整数(0,1000),我的输出/目标只是该整数的sin乘以某个常数(因此它在0到2pi之间进行计算)。代码如下:

def add_samples():

    ds = SupervisedDataSet(1,1)

    for j in  range(0,1000):
            ds.addSample(j,math.sin((j*math.pi)/500))

    print ds
    return ds

def FeedForward():
    n= FeedForwardNetwork()

    #construct input, hiddent, and output Layers
    inLayer=LinearLayer(1)
    hiddenLayer = SigmoidLayer(3)
    outLayer=LinearLayer(1)


    # add layers to the network
    n.addInputModule(inLayer)
    n.addModule(hiddenLayer)
    n.addOutputModule(outLayer)

    # make the connections between the layers
    in_to_hidden = FullConnection(inLayer, hiddenLayer)
    hidden_to_out = FullConnection(hiddenLayer, outLayer)

    # explicitly adding the connections to the network
    n.addConnection(in_to_hidden)
    n.addConnection(hidden_to_out)

    # some internal organization
    n.sortModules()
    print n
    return n
def backprop():
    n=FeedForward()
    ds=add_samples()

    trainer = BackpropTrainer(n, ds)
    trainer.trainOnDataset(ds,100)
    trainer.testOnData(verbose=True)



def main():
    backprop()

if __name__ == '__main__':
    main()

我的输出如下:

  error:  0.00084029
  out:     [0.016 ]
  correct: [-0.019]
  error:  0.00060250
  out:     [0.016 ]
  correct: [-0.013]
  error:  0.00040415
  out:     [0.016 ]
  correct: [-0.006]
  error:  0.00024526

所有1000个输出评估为0.016。有没有人有任何建议或能指出一个很好的例子?我已经旋转了一段时间。我想我错过了一些微不足道的东西,或者有一些基本的概念,对于ANN或机器学习,我总是缺少。如果我提供更多信息,请告诉我是否有帮助。谢谢!

0 个答案:

没有答案