是否可以加载PyMC3跟踪并在内存中没有原始模型的情况下访问值?

时间:2017-06-26 17:05:23

标签: python pymc3

我还在学习使用PyMC3的基础知识,所以希望这在文档中已经不那么明显了。基本的想法是,我已经将我的模型放在一起,对它进行了一些采样以建立我的后验分布并保存链。如果我按照Backends页面的建议加载trace = pm.backends.text.load('test_txt')这样的链条,那么我会得到TypeError: No context on context stack。我期望的是,我能够将text.load方法指向已保存的数据库,并且我将返回包含所有跟踪值的numpy数组,即数据库将包含访问所需的所有信息。连锁价值。

有点狩猎和在PyMC3中加载跟踪的唯一例子我可以找到here,并且显示了用于加载跟踪的相同模型变量,就像创建它一样。如果我想要一个脚本来运行我的链和一个单独的脚本来加载和分析跟踪,那么唯一的方法就是在两个文件中使用相同的命令初始化模型。这听起来很容易在文件之间产生不一致,但是因为我必须手动保持模型相同。

这是一个从PyMC入门页面获取的示例,我保存链。我将以下代码保存在一个简短的脚本中。

import numpy as np
import pymc3 as pm
from scipy import optimize

# Initialize random number generator
np.random.seed(123)

# True parameter values
alpha, sigma = 1, 1
beta = [1, 2.5]

# Size of dataset
size = 100

# Predictor variable
X1 = np.random.randn(size)
X2 = np.random.randn(size) * 0.2

# Simulate outcome variable
Y = alpha + beta[0]*X1 + beta[1]*X2 + np.random.randn(size)*sigma

basic_model = pm.Model()

with basic_model:
    # Priors for unknown model parameters
    alpha = pm.Normal('alpha', mu=0, sd=10)
    beta = pm.Normal('beta', mu=0, sd=10, shape=2)
    sigma = pm.HalfNormal('sigma', sd=1)

    # Expected value of outcome
    mu = alpha + beta[0]*X1 + beta[1]*X2

    # Likelihood (sampling distribution) of observations
    Y_obs = pm.Normal('Y_obs', mu=mu, sd=sigma, observed=Y)

    # obtain starting values via MAP
    start = pm.find_MAP(fmin=optimize.fmin_powell)

    # instantiate sampler
    step = pm.Slice(vars=[sigma])

    # instantiate database
    db = pm.backends.Text('so_save')

    # draw 5000 posterior samples
    trace = pm.sample(5000, step=step, start=start, trace=db)

然后运行这些下一行(在Python CLI或单独的脚本中)给出

trace = pm.backends.text.load('so_save')
# TypeError: No context on context stack

trace = pm.backends.text.load('so_save', model=pm.Model())
print trace
print trace.varnames
# <MultiTrace: 1 chains, 5000 iterations, 0 variables>
# []

# run same first 36 lines from the big code block above
trace = pm.backends.text.load('so_save', model=basic_model)
print trace
print trace.varnames
# <MultiTrace: 1 chains, 5000 iterations, 4 variables>
# ['alpha', 'beta', 'sigma_log_', 'sigma']

对于更多动机/背景,我正在尝试以几种略微不同的方式对相同数据进行建模。我希望磁盘上的每个模型都有很好的长链,我只需要生成一次。然后,当我想到我想分析痕迹的方式时,我可以将它们放在一起进行比较。

2 个答案:

答案 0 :(得分:11)

简短回答:

使用它来保存踪迹

import pickle # python3
import cPickle as pickle # python 2

with open('my_model.pkl', 'wb') as buff:
    pickle.dump({'model': basic_model, 'trace': trace}, buff)

然后重新加载:

with open('my_model.pkl', 'rb') as buff:
    data = pickle.load(buff)  

basic_model, trace = data['model'], data['trace']

答案很长:

deprecating the backends进行了一些讨论 - 它们在存储需要长时间运行的跟踪的上下文中很有用,并且可能超过内存。然后使用持久后端可以恢复已经完成的工作。汉密尔顿主义采样器效率更高,因此更短的跟踪就足够了,因此自2016年以来,磁盘后端的开发时间并不多。

加载不受信任的pickle文件存在一些危险(如果你在本地运行,这不是问题),并且重新考虑PyMC3的持久性已成为优先考虑的问题,但上述情况现在应该有效。

答案 1 :(得分:0)

要在 pymc3 中保存和重新加载跟踪,您可以使用以下方法:pymc3.save_trace()pymc3.load_trace()。或者,您也可以使用“pickle”。