我是pybrain的新手,我在构建神经网络时遇到了很多问题。 文档对我来说不是很清楚,我在网上找不到很多例子。
我想要一个带有一个输入,1个隐藏层,1个输出的神经网络。
x--->f1(x),f2(x),...,b---->g(z)
这应该是一个简单的例子。隐藏层具有不同的功能和偏置单元。
对于此示例,我们可以考虑f1=f2=sigmoid
,g
是自定义函数。
这是我到目前为止所做的,但我完全不确定我所做的是对的。
我不知道如何在隐藏层上添加偏置单元。
class gLayer(NeuronLayer):
def _forwardImplementation(self, inbuf, outbuf):
outbuf[:]=g(inbuf)
def _backwardImplementation(self, outerr, inerr, outbuf, inbuf):
inerr[:]=derivative(g,inbuf)*outerr
print "build a network"
#Layer
inLayer=LinearLayer(1)
hLayer=SigmoidLayer(2)
outLayer=gLayer(1)
net=FeedForwardNetwork()
net.addInputModule(inLayer)
net.addModule(hLayer)
net.addOutputModule(outLayer)
#connection
in_to_hidden = FullConnection(inLayer, hLayer)
hidden_to_out = FullConnection(hLayer, outLayer)
net.addConnection(in_to_hidden)
net.addConnection(hidden_to_out)
net.sortModules()