Pymc中具有自定义对数可能性的Metropolis Hastings

时间:2014-06-02 15:55:39

标签: pymc mcmc

我想使用pymc来使用MH链从自定义日志可能性中进行采样。但我似乎无法让它工作,也无法在网上找到一个不错的例子。

def getPymcVariable(data):

  def logp(value):
    ...
    return ljps # returns a float

  def random():
    return np.random.rand(numDims);

  dtype = type(random());
  initPt = [0.45, 0.24, 0.68];

  ret = pymc.Stochastic(logp = logp,
                        doc = 'SNLS RV',
                        name = 'SNLS',
                        parents = {},
                        random = random,
                        trace = True,
                        value = initPt,
                        dtype = dtype,
                        observed = False,
                        cache_depth = 2,
                        plot = True,
                        verbose = 0 );
  return ret


if __name__ == '__main__':

    data = np.loadtxt('../davisdata.txt');
    numExperiments = 30;
    numSamples = 10000;

    SNLS = getPymcVariable(data)
    model = pymc.Model([SNLS]);
    mcmcModel = pymc.MCMC(model);
    mcmcModel.use_step_method(pymc.Metropolis, SNLS, proposal_sd=1);
    mcmcModel.sample(numSamples, burn=0, thin=1);
    x = mcmcModel.trace('SNLS')[:]
    np.savetxt(fileName, x);

它是一个3维变量,具有统一的先验和logp()中计算的对数似然。我想运行具有自适应提案分发的MH链。但每次我运行采样器时它只返回一个统一的分布(事实上,它只是从上面的随机函数返回样本 - 当我将它修改为0.5 * np.random.rand(numDims)时它返回一个Unif((0, 1)^ 3)分布。)

但是,我知道正在调用logp函数。

我还有一些问题: - 上面随机函数的目的是什么?我最初认为这是一个先验,但看起来不像。

1 个答案:

答案 0 :(得分:1)

在PyMC2中,我发现使用内置发行版和@potential装饰器来完成这类任务相当简单。这是一个最小的例子:

X = pm.Uniform('X', 0, 1, value=[0.45, 0.24, 0.68])

@pm.potential
def SNLS(X=X):
    logp = -X[0]**2 / X[1]
    logp += -X[1]**2 / X[2]  # or whatever...
    return logp

您可以按如下方式选择自适应大都市步骤方法:

m = pm.MCMC([X, SNLS])
m.use_step_method(pm.AdaptiveMetropolis, X)

这是a notebook that puts this together and plots the results