如何在Python中绘制最大似然估计值

时间:2011-10-25 23:57:58

标签: python numpy statistics machine-learning

我正在从exponential distribution中抽取一些样本。在我的第一个实验中,我正在绘制1000个样本,而在第二个实验中,我正在从这个分布中抽取10,000个样本。 (使用numpy.random.exponential)

我想直观地比较两次实验的最大似然估计的差异。 (因为这是指数分布,MLE只是样本均值,所以在我的第二个实验中,MLE应该更接近真密度。)

如何在Python中进行这样的比较?我知道如何在matplotlib中绘制图形,但在这里我不知道应该使用什么类型的图形。

1 个答案:

答案 0 :(得分:4)

鉴于评论中的评论,我想以下是您正在寻找的内容:

import numpy as np
import matplotlib.pyplot as plt

def plot_exponential_density(mu, xmax, fmt, label):
        x = np.arange(0, xmax, 0.1)
        y = 1/mu * np.exp(-x/mu)
        plt.plot(x, y, fmt, label=label)

def sample_and_plot(N, color):
        # first sample N valus
        samples = np.zeros( (N,1) )
        for i in range(0,N):
                samples[i] = np.random.exponential()

        # determine the mean
        mu = np.mean(samples)
        print("N = %d  ==> mu = %f" % (N, mu))

        # plot a histogram of the samples
        (n, bins) = np.histogram(samples, bins=int(np.sqrt(N)), density=True)
        plt.step(bins[:-1], n, color=color, label="samples N = %d" % N)

        xmax = max(bins)

        # plot the density according to the estimated mean
        plot_exponential_density(mu, xmax, color + "--", label="estimated density N = %d" % N)

        return xmax


# sample 100 values, draw a histogram, and the density according to
# the estimated mean
xmax1 = sample_and_plot(100, 'r')
# do the same for 1000 samples
xmax2 = sample_and_plot(10000, 'b')

# finally plot the true density
plot_exponential_density(1, max(xmax1, xmax2), 'k', "true density")

# add a legend
plt.legend()

# and show the plot
plt.show()

enter image description here

我使用了100和10,000个样本,因为有1,000个样本,估计已经相当不错了。但是仍然只有100个样本,我有点惊讶于平均值的估计值和密度的估计值。鉴于直方图没有知道样本是从指数分布中提取的,我不确定我会在这里识别出指数分布...