为什么这种分层泊松模型与生成数据中的真参数不匹配?

时间:2015-08-11 20:56:31

标签: python pymc mcmc

我正在尝试使用分层泊松回归来估计每组和全局的time_delay。我很困惑pymc是否自动将日志链接功能应用于mu,或者我是否必须明确地执行此操作:

with pm.Model() as model:
    alpha = pm.Gamma('alpha', alpha=1, beta=1)
    beta = pm.Gamma('beta', alpha=1, beta=1)

    a = pm.Gamma('a', alpha=alpha, beta=beta, shape=n_participants)

    mu = a[participants_idx]
    y_est = pm.Poisson('y_est', mu=mu, observed=messages['time_delay'].values)

    start = pm.find_MAP(fmin=scipy.optimize.fmin_powell)
    step = pm.Metropolis(start=start)
    trace = pm.sample(20000, step, start=start, progressbar=True)

下面的跟踪图显示a的估算值。您可以看到0到750之间的组估计值。

traceplot

当我使用alphabeta的均值作为参数来绘制超参数伽玛分布时,我的困惑就开始了。以下分布显示0到5之间的支持。在查看上面a的群组估算时,这不符合我的期望。 a代表什么?是log(a)还是其他什么?

enter image description here

感谢您的任何指示。

根据评论中的要求使用假数据添加示例:此示例只有一个组,因此应该更容易看出超参数是否可能合理地产生该组的泊松分布。

test_data = []
model = []

for i in np.arange(1):
    # between 1 and 100 messages per conversation
    num_messages = np.random.uniform(1, 100)
    avg_delay = np.random.gamma(15, 1)
    for j in np.arange(num_messages):
        delay = np.random.poisson(avg_delay)

        test_data.append([i, j, delay, i])

    model.append([i, avg_delay])

model_df = pd.DataFrame(model, columns=['conversation_id', 'synthetic_mean_delay'])
test_df = pd.DataFrame(test_data, columns=['conversation_id', 'message_id', 'time_delay', 'participants_str'])
test_df.head()

# Estimate parameters of model using test data
# convert categorical variables to integer
le = preprocessing.LabelEncoder()
test_participants_map = le.fit(test_df['participants_str'])
test_participants_idx = le.fit_transform(test_df['participants_str'])
n_test_participants = len(test_df['participants_str'].unique())

with pm.Model() as model:
    alpha = pm.Gamma('alpha', alpha=1, beta=1)    
    beta = pm.Gamma('beta', alpha=1, beta=1)

    a = pm.Gamma('a', alpha=alpha, beta=beta, shape=n_test_participants)

    mu = a[test_participants_idx]

    y = test_df['time_delay'].values
    y_est = pm.Poisson('y_est', mu=mu, observed=y)

    start = pm.find_MAP(fmin=scipy.optimize.fmin_powell)
    step = pm.Metropolis(start=start)
    trace = pm.sample(20000, step, start=start, progressbar=True)

enter image description here

我不知道下面的超参数如何产生参数介于13和17之间的泊松分布。

enter image description here

1 个答案:

答案 0 :(得分:3)

答案:pymc使用与scipy不同的参数来表示Gamma分布。 scipy使用alpha&比例,而pymc使用alpha和beta。以下模型按预期工作:

with pm.Model() as model:
    alpha = pm.Gamma('alpha', alpha=1, beta=1)    
    scale = pm.Gamma('scale', alpha=1, beta=1)

    a = pm.Gamma('a', alpha=alpha, beta=1.0/scale, shape=n_test_participants)

    #mu = T.exp(a[test_participants_idx])
    mu = a[test_participants_idx]

    y = test_df['time_delay'].values
    y_est = pm.Poisson('y_est', mu=mu, observed=y)

    start = pm.find_MAP(fmin=scipy.optimize.fmin_powell)
    step = pm.Metropolis(start=start)
    trace = pm.sample(20000, step, start=start, progressbar=True)

enter image description here

enter image description here