没有替换概率的抽样

时间:2018-01-12 08:25:03

标签: python numpy scipy permutation choice

我正在使用np.random.choice进行取样而无需替换。

我希望以下代码选择0 50%的时间,1 30%的时间和2 20%的时间。

import numpy as np

draws = []
for _ in range(10000):
    draw = np.random.choice(3, size=2, replace=False, p=[0.5, 0.3, 0.2])
    draws.append(draw)

result = np.r_[draws]

如何正确选择np.random.choice的参数以获得我想要的结果?

我想要的数字代表事件在第一或第二位置被抽出的概率。

print(np.any(result==0, axis=1).mean()) # 0.83, want 0.8
print(np.any(result==1, axis=1).mean()) # 0.68, want 0.7
print(np.any(result==2, axis=1).mean()) # 0.47, want 0.5

1 个答案:

答案 0 :(得分:4)

我对这个问题有两种解释。一个我更喜欢(“永恒”)和一个我认为技术上有效但劣等(“天真”)

永恒:

根据概率x, y, z,这种方法计算x', y', z',这样如果我们独立绘制两次并丢弃所有相等的对,0, 1, 2的频率为x, y, z

这为两次试验提供了正确的总频率,并且在第一次和第二次试验相当的意义上,具有简单和永恒的额外好处。

为此,我们必须

(x'y' + x'z') / [2 (x'y' + x'z' + y'z')] = x
(x'y' + y'z') / [2 (x'y' + x'z' + y'z')] = y                         (1)
(y'z' + x'z') / [2 (x'y' + x'z' + y'z')] = z

如果我们添加其中两个并减去第三个,我们得到

x'y' / (x'y' + x'z' + y'z') =  x + y - z = 1 - 2 z
x'z' / (x'y' + x'z' + y'z') =  x - y + z = 1 - 2 y                   (2)
y'z' / (x'y' + x'z' + y'z') = -x + y + z = 1 - 2 x

将其中的2个乘以第3个

x'^2 / (x'y' + x'z' + y'z') = (1 - 2 z) (1 - 2 y) / (1 - 2 x)
y'^2 / (x'y' + x'z' + y'z') = (1 - 2 z) (1 - 2 x) / (1 - 2 y)        (3)
z'^2 / (x'y' + x'z' + y'z') = (1 - 2 x) (1 - 2 y) / (1 - 2 z)

因此达到常数因子

x' ~ sqrt[(1 - 2 z) (1 - 2 y) / (1 - 2 x)]
y' ~ sqrt[(1 - 2 z) (1 - 2 x) / (1 - 2 y)]                           (4)
z' ~ sqrt[(1 - 2 x) (1 - 2 y) / (1 - 2 z)]

由于我们知道x', y', z'必须总和为1,这足以解决。

但是:我们实际上不需要完全解决x', y', z'。由于我们只对不相等的对感兴趣,我们所需要的只是条件概率x'y' / (x'y' + x'z' + y'z')x'z' / (x'y' + x'z' + y'z')y'z' / (x'y' + x'z' + y'z')。这些我们可以使用等式(2)计算。

然后我们将它们中的每一个减半以获得有序对的概率,并从具有这些概率的六个法律对中抽取。

幼稚:

这是基于(在我看来是任意的)假设在第一次抽签后概率为x', y', z',第二次必须有条件概率0, y' / (y'+z'), z' / (y'+z')如果首先是0 {{1首先是x' / (x'+z'), 0, z' / (x'+z'),如果第一个是1则为x' / (x'+y'), y' / (x'+y'), 0)

这样做的缺点是,据我所知,没有简单的封闭式解决方案,第二次和第一次抽奖是完全不同的。

优点是可以直接与2一起使用;然而,这是如此之慢,以至于在下面的实现中我提供了避免此功能的解决方法。

在一些代数之后,人们发现:

np.random.choice

其中1/x' - x' = c (1 - 2x) 1/y' - y' = c (1 - 2y) 1/z' - z' = c (1 - 2z) 。我只能用数字解决这个问题。

实施和结果:

这是实施。

c = 1/x' + 1/y' + 1/z' - 1

示例输出:

import numpy as np
from scipy import optimize

def f_pairs(n, p):
    p = np.asanyarray(p)
    p /= p.sum()
    assert np.all(p <= 0.5)
    pp = 1 - 2*p

    # the following two lines show how to compute x', y', z'
    # pp = np.sqrt(pp.prod()) / pp
    # pp /= pp.sum()
    # now pp contains x', y', z'

    i, j = np.triu_indices(3, 1)
    i, j = i[::-1], j[::-1]
    pairs = np.c_[np.r_[i, j], np.r_[j, i]]
    pp6 = np.r_[pp/2, pp/2]
    return pairs[np.random.choice(6, size=(n,), replace=True, p=pp6)]

def f_opt(n, p):
    p = np.asanyarray(p)
    p /= p.sum()
    pp = 1 - 2*p
    def target(l):
        lp2 = l*pp/2
        return (np.sqrt(1 + lp2**2) - lp2).sum() - 1
    l = optimize.root(target, 8).x
    lp2 = l*pp/2
    pp = np.sqrt(1 + lp2**2) - lp2
    fst = np.random.choice(3, size=(n,), replace=True, p=pp)
    snd = (
        (np.random.random((n,)) < (1 / (1 + (pp[(fst+1)%3] / pp[(fst-1)%3]))))
        + fst + 1) % 3
    return np.c_[fst, snd]

def f_naive(n, p):
    p = np.asanyarray(p)
    p /= p.sum()
    pp = 1 - 2*p
    def target(l):
        lp2 = l*pp/2
        return (np.sqrt(1 + lp2**2) - lp2).sum() - 1
    l = optimize.root(target, 8).x
    lp2 = l*pp/2
    pp = np.sqrt(1 + lp2**2) - lp2
    return np.array([np.random.choice(3, (2,), replace=False, p=pp)
                    for _ in range(n)])

def check_sol(p, sol):
    N = len(sol)
    print("Frequencies [value: observed, desired]")
    c1 = np.bincount(sol[:, 0], minlength=3) / N
    print(f"1st column:  0: {c1[0]:8.6f} {p[0]:8.6f}  1: {c1[1]:8.6f} {p[1]:8.6f}  2: {c1[2]:8.6f} {p[2]:8.6f}")
    c2 = np.bincount(sol[:, 1], minlength=3) / N
    print(f"2nd column:  0: {c2[0]:8.6f} {p[0]:8.6f}  1: {c2[1]:8.6f} {p[1]:8.6f}  2: {c2[2]:8.6f} {p[2]:8.6f}")
    c = c1 + c2
    print(f"1st or 2nd:  0: {c[0]:8.6f} {2*p[0]:8.6f}  1: {c[1]:8.6f} {2*p[1]:8.6f}  2: {c[2]:8.6f} {2*p[2]:8.6f}")
    print()
    print("2nd column conditioned on 1st column [value 1st: val / prob 2nd]")
    for i in range(3):
        idx = np.flatnonzero(sol[:, 0]==i)
        c = np.bincount(sol[idx, 1], minlength=3) / len(idx)
        print(f"{i}: 0 / {c[0]:8.6f} 1 / {c[1]:8.6f} 2 / {c[2]:8.6f}")
    print()

# demo
p = 0.4, 0.35, 0.25
n = 1000000
print("Method: Naive")
check_sol(p, f_naive(n//10, p))
print("Method: naive, optimized")
check_sol(p, f_opt(n, p))
print("Method: Timeless")
check_sol(p, f_pairs(n, p))