Question

Pylearn2通常建议作为神经网络的python资源。

我想创建一个单隐藏层神经网络，并使用反向传播算法训练它。

这应该是基本的，但我不明白如何使用pylearn2。我已经在多层感知器上找到了这个教程，但尽管我仍然迷失了。（http://nbviewer.ipython.org/github/lisa-lab/pylearn2/blob/master/pylearn2/scripts/tutorials/multilayer_perceptron/multilayer_perceptron.ipynb）

n = 200
p = 20
X = np.random.normal(0, 1, (n, p))
y = X[:,0]* X[:, 1] + np.random.normal(0, .1, n)

我想创建一个具有40个隐藏节点和sigmoid激活函数的单层神经网络。

有人可以帮助我吗？

编辑：

我已经能够编写此代码，但它仍无法正常工作

ds = DenseDesignMatrix(X=X, y=y)

hidden_layer = mlp.Sigmoid(layer_name='hidden', dim=10, irange=.1, init_bias=1.)
output_layer = mlp.Linear(1, 'output', irange=.1)
trainer = sgd.SGD(learning_rate=.05, batch_size=10, 
                  termination_criterion=EpochCounter(200))

layers = [hidden_layer, output_layer]
ann = mlp.MLP(layers, nvis=1)
trainer.setup(ann, ds)

while True:
    trainer.train(dataset=ds)
    ann.monitor.report_epoch()
    ann.monitor()
    if not trainer.continue_learning(ann):
        break

Answer 1

这是我目前的解决方案：

n = 200
p = 2
X = np.random.normal(0, 1, (n, p))
y = X[:,0]* X[:, 1] + np.random.normal(0, .1, n)
y.shape = (n, 1)

ds = DenseDesignMatrix(X=X, y=y)


hidden_layer = mlp.Sigmoid(layer_name='hidden', dim=10, irange=.1, init_bias=1.)
output_layer = mlp.Linear(dim=1, layer_name='y', irange=.1)
trainer = sgd.SGD(learning_rate=.05, batch_size=10, 
                  termination_criterion=EpochCounter(200))
layers = [hidden_layer, output_layer]
ann = mlp.MLP(layers, nvis=2)
trainer.setup(ann, ds)

while True:
    trainer.train(dataset=ds)
    ann.monitor.report_epoch()
    ann.monitor()
    if not trainer.continue_learning(ann):
        break

inputs = X 
y_est = ann.fprop(theano.shared(inputs, name='inputs')).eval()

Answer 2

pylearn2既可以通过实例化对象并像往常一样使用它们，也可以通过配置Yaml文件定义网络拓扑和参数，让pylearn2负责其余部分。理解工作原理的一个好方法是查看pylearn2/scripts/train.py以查看执行的操作。另外，在pylearn2/train.py（不幸选择名字，我猜）你会发现＆＃34;训练对象＆＃34;其中包含有关培训的所有信息。基本上，当您使用配置文件时，yaml解析器将使用配置文件中的信息构建一个train对象，然后开始训练。 pylearn2/scripts/papers中有很多例子可供您查看。

我还建议您阅读本文，以便更好地理解pylearn2的工作原理：Your models in Pylearn2

最后，您可能还想查看Blocks，这是一个与pylearn2相同的实验室开发的神经网络新框架。它处于非常活跃的开发状态，并且比pylearn2具有更少的功能，但是如果你对Theano有所了解，你可能会更喜欢它。

用pylearn2创建单层神经网络

2 个答案: