使用对比分歧计算RBM导数的差异

时间:2014-12-01 00:09:37

标签: machine-learning neural-network rbm

任何人都可以解释我在计算RBM中的导数与-h_j * x_k和 - h_j(x)* x_k之间的区别吗?我找到了两种实现的源代码,我不确定哪一个更好(为什么?)

1 个答案:

答案 0 :(得分:0)

你用h_j和h_j(x)指的是第j个隐藏的神经元样本还是第j个隐藏的神经元S形激活?假设如此,如果计算负对数似然函数的导数,则结果为P(h_j = 1)* x_k。