马尔可夫链蒙特卡罗,多元伯努利分布的提议分布?

时间:2014-05-05 11:02:30

标签: machine-learning statistics probability montecarlo markov-chains

多变量伯努利模型是否有合适的提案分布?

例如,我想从概率分布中抽样

    p(x) = p*(x) / Z;

其中x = {0,1} ^ M和Z是归一化常数,直接绘制独立样本是难以处理的,因此我求助于MCMC。

对于多变量连续数据,使用高斯作为提议分布是微不足道的。 这种二进制类型数据是否有合适的提案分布?

P.S。我不想使用Gibbs采样,因为它对我来说太慢了。

由于

2 个答案:

答案 0 :(得分:3)

您需要更好地解释您的模型。对于多变量伯努利模型的标准变量,Z是x的维数,因为每个边际的可能结果的概率之和为1,并且x_is之间没有依赖性。

答案 1 :(得分:1)

我想我找到了我想要的东西,这出现在去年的NIPS会议上:

"二元分布的辅助变量精确哈密顿蒙特卡罗采样器"

Ari Pakman等人

http://www.stat.columbia.edu/~liam/research/pubs/pakman-exact-binary-hmc.pdf