主持人MCMC采样未收敛到适当的参数值

Question

我正在尝试使用预定义的似然函数在Python中实现emcee MCMC采样，以找到两个数据种群之间的最佳边界。

对于emcee，请参见：http://dfm.io/emcee/current/user/line/

在给定一些线性边界线的情况下，似然函数计算真实的正分类和真实的负分类，并用于最小化两个值之间的差异，同时最大化其总和。

通过这种方式，您可以想象TP和TN比率分别为1时，其似然度为1，而TP和TN比率为0时，似然度为0。

但是，当我尝试对m和b的参数空间，边界线的梯度和偏移量（或偏差）进行采样时，我得到一些非常大和/或小的值散步。

我在下面放了一个示例代码，该代码生成一些细分的总体，然后围绕参数值的初始猜测生成MCMC。我不确定MCMC链为什么不能很好地收敛到此处的适当值，所以我们将不胜感激。

下面的代码应该是开箱即用的。

import emcee
import numpy as np 
from sklearn.metrics import confusion_matrix
import matplotlib.pyplot as plt

#generate some test x and y data
folded_xy_train = np.random.uniform(0,1,10000) #test x data
folded_z_train = np.random.uniform(0,1,10000) #test y data
#define the true gradient and offset for the boundary line
m_true, b_true = 5,-2.5

#generate labels for the test data
rounded_labels_train = np.ones(len(folded_z_train))
model = (m_true*folded_xy_train) + b_true
difference = model - folded_z_train
rounded_labels_train[difference<0] = 0

#show the test data
plt.figure()
plt.scatter(folded_xy_train,folded_z_train,c=rounded_labels_train,s=1.0)

#define a likelihood function for the boundary line       
def lnlike(theta, x, y, labels):
        m, b = theta
        model = (m*x) + b
        difference = model - y
        classifications = np.ones(len(y))
        classifications[difference<0]=0
        cfm = confusion_matrix(labels,classifications)
        cm = cfm.astype('float') / cfm.sum(axis=1)[:, np.newaxis]
        tn, fp, fn, tp = cm.ravel()
        likelihood_val = (0.5*(tp+tn))/(1+np.abs(tp-tn))
        ln_like = -np.log(likelihood_val)
        return ln_like

#define a wide flat prior         
def lnprior(theta):
    m, b, = theta
    if 0 < m < 10 and -20 < b < 5:
        return 0.0
    return -np.inf 

#define the posterior         
def lnprob(p, x, y, labels):
    lp = lnprior(p)
    if not np.isfinite(lp):
        return 0
    return lp + lnlike(p, x, y, labels)

#setup the MCMC sampling  
nwalkers = 4
ndim = 2
p0 = np.array([4.2,-2]) + [np.random.rand(ndim) for i in range(nwalkers)]
sampler = emcee.EnsembleSampler(nwalkers, ndim, lnprob, args=(folded_xy_train, folded_z_train, rounded_labels_train))
sampler.run_mcmc(p0, 500)

#extract the MCMC paramater value chains       
samples = sampler.chain[:, 50:, :].reshape((-1, ndim))        

#view the parameter chains        
plt.figure()
plt.subplot(211)
plt.plot(samples[:,0])
plt.subplot(212)
plt.plot(samples[:,1])     

初始测试数据，显示给定x y数据的明显边界线（由二进制类标签着色）：

样本走动，显示了梯度参数（顶部）和偏移参数（底部）的奇怪采样。 x轴表示MCMC步行步骤编号，y轴表示给定步骤的MCMC参数值：