如何训练RBM等无监督神经网络?

时间:2015-08-18 23:58:06

标签: machine-learning statistics deep-learning rbm

这个过程是否正确?

假设我们有一堆数据,例如MNIST。

我们只是将所有这些数据(没有标签)提供给RBM,并从训练模型中重新采样每个数据。

然后可以将输出视为用于分类的新数据。

我理解正确吗? 使用RBM的目的是什么?

1 个答案:

答案 0 :(得分:3)

您是对的,RBM是一种无监督学习算法,通常用于减少特征空间的维度。另一种常见方法是使用自动编码器。

使用对比散度算法训练RBM。这个算法的最佳概述来自Geoffrey Hinton,他提出了这个问题。 https://www.cs.toronto.edu/~hinton/absps/guideTR.pdf

关于无监督学习如何提高绩效的优秀论文可以在http://jmlr.org/papers/volume11/erhan10a/erhan10a.pdf找到。该论文表明,无监督学习提供了更好的泛化和过滤(如果使用CRBM)