Question

有人可以就如何并行PyMC MCMC代码提供一些一般性说明。我试图按照给定here的示例运行LASSO回归。我在某处读到默认情况下并行采样，但是我是否还需要使用Parallel Python这样的功能来使其工作？

以下是一些我希望能够在我的机器上并行化的参考代码。

x1 = norm.rvs(0, 1, size=n)
x2 = -x1 + norm.rvs(0, 10**-3, size=n)
x3 = norm.rvs(0, 1, size=n)

X = np.column_stack([x1, x2, x3])
y = 10 * x1 + 10 * x2 + 0.1 * x3

beta1_lasso = pymc.Laplace('beta1', mu=0, tau=1.0 / b)
beta2_lasso = pymc.Laplace('beta2', mu=0, tau=1.0 / b)
beta3_lasso = pymc.Laplace('beta3', mu=0, tau=1.0 / b)

@pymc.deterministic
def y_hat_lasso(beta1=beta1_lasso, beta2=beta2_lasso, beta3=beta3_lasso, x1=x1, x2=x2, x3=x3):
    return beta1 * x1 + beta2 * x2 + beta3 * x3

Y_lasso = pymc.Normal('Y', mu=y_hat_lasso, tau=1.0, value=y, observed=True)

lasso_model = pymc.Model([Y_lasso, beta1_lasso, beta2_lasso, beta3_lasso])
lasso_MCMC = pymc.MCMC(lasso_model)
lasso_MCMC.sample(20000,5000,2)

Answer 1

看起来你正在使用PyMC2，据我所知，你必须使用一些Python方法进行并行计算，比如IPython.parallel。有很多方法可以做到这一点，但我所知道的所有方法都有点复杂。这是an example of one, which uses PyMC2, IPCluster, and Wakari。

在PyMC3中，并行采样在psample方法中实现，但您的参考代码需要更新为PyMC3格式：

with pm.Model() as model:
    beta1 = pm.Laplace('beta1', mu=0, b=b)
    beta2 = pm.Laplace('beta2', mu=0, b=b)
    beta3 = pm.Laplace('beta3', mu=0, b=b)

    y_hat = beta1 * x1 + beta2 * x2 + beta3 * x3
    y_obs = pm.Normal('y_obs', mu=y_hat, tau=1.0, observed=y)

    trace = pm.psample(draws=20000, step=pm.Slice(), threads=3)

Answer 2

PYMC3已将 psample 合并为示例。

要并行运行，请设置参数njobs > 1。

pymc.sample函数的用法是：

sample(draws, step, start=None, trace=None, chain=0, njobs=1, tune=None, progressbar=True, model=None, random_seed=None) 请注意，如果设置njobs=None，它将默认为CPU数量 - 2。

我希望这会有所帮助。

PyMC的并行化

2 个答案: