用条件限制玻尔兹曼机器的对比分歧

时间:2012-12-27 19:14:15

标签: machine-learning neural-network

我想使用Restricted Boltzmann Machine进行模式识别。 我注意到它们实际上用于在模式而不是模式识别中查找分布。我查看了以下文章:http://www.cs.toronto.edu/~hinton/absps/uai_crbms.pdf似乎使用了RBM的扩展,称为ConditionalRBM。我想实现这一点。我已经使用Contrastive Divergence来实现RBM,为了简单起见,我想坚持使用CRBM。本文着重于用更准确的算法取代对比背散。

从我在论文中看到的,我现在需要创建三个权重矩阵(现在我还必须包括分类向量)(参见本文中的图1),我不知道如何更新每个权重矩阵(即如何创建影响矩阵变化的向量。)

有人可以请我澄清这个问题,或者建议使用简单的RBM进行分类算法,我已经实施了吗?

感谢。

1 个答案:

答案 0 :(得分:1)

我发现以下文件澄清了这个问题:http://uai.sis.pitt.edu/papers/11/p463-louradour.pdf。这里的海报也非常有用,特别是对于实施:http://www.dmi.usherb.ca/~larocheh/publications/drbm-mitacs-poster.pdf。它不是使用3个权重矩阵,而是使用2,一个用于分类向量,一个用于实际模式。

激活概率的公式发生了变化,但想法是一样的。