使用RBM权重初始化MLP的权重

Question

我想用scikit-learn建立深度信任网络。据我所知，应该单独训练许多受限制的玻尔兹曼机器（RBM）。然后，应创建一个多层感知器（MLP），其层数与（RBM）的数量相同，并且MLP的权重应使用RBM的权重进行初始化。但是我无法找到从scikit-learn BernoulliRBM获得RBM权重的方法。此外，它似乎也不是一种在scikit-learn中初始化MLP权重的方法。

有办法做我描述的吗？

Answer 1

scikit-learn目前没有实现可以通过RBM初始化的MLP，但您仍然可以访问存储在components_属性中的权重和存储在intercept_hidden_​​属性中的偏差。

如果您对使用现代MLP感兴趣，那么torch7，pylearn2和deepnet都是现代库，其中大多数都包含您描述的预训练程序。