python:找到两个gaussian_kde函数(对象)的交集

时间:2016-05-24 22:15:30

标签: python probability gaussian

我有两个python gaussian_kde对象,我想找到交集。 有一个简单的方法吗?

请注意,这些函数没有很好的参数化,请参见图。 enter image description here

这是一种天真的方法(假设只有一个交集,但是对于范围内的所有交叉点,可以很容易地修改它,因为在指定的init_interval中只有一个交集点): p>

def find_intersection(kde1, kde2, init_interval=0.01, scope =[0,1], convergence=0.0001):
x_left = scope[0]
x_right = scope[0]+init_interval
while x_right < scope[1]:
    left = kde1(x_left)[0]-kde2(x_left)[0]
    right = kde1(x_right)[0]-kde2(x_right)[0]
    if left*right < 0: #meaning the functions intersected (an odd number of times) in the interval
        if init_interval <= convergence:
            return x_right
        else: 
            return find_intersection(kde1, kde2, init_interval/10, scope=[x_left, x_right])
    else: #no intersection or an even number of intersections in the interval
        x_left = x_right
        x_right+=init_interval
return scope[0]-1 #out of scope means no intersection

对于我们得到的地块的KDE:

>>>from scipy.stats import gaussian_kde
>>>data1 = d_sp.values()
>>>density1 = gaussian_kde(data1)
>>>data2 = d_xp.values()
>>>density2 = gaussian_kde(data2)
>>>xs = np.linspace(0,.2,200)
>>>print find_intersection(density1, density2) 
0.0403   
>>>print find_intersection(density1, density2, convergence=0.000001)
0.0403 

我想知道是否有一个&#34;封闭的形式&#34;利用可以提供正确解决方案的KDE功能和对象。

谢谢!

2 个答案:

答案 0 :(得分:1)

如果没有代码,很难提供帮助,但我实现了一个完整的例子,包括:

  • 包括随机抽样的数据生成
  • KDE配合
  • 交点调查

方法

基本思想是使用一些通用的根寻找算法。为此,我们使用了来自scipy的brentq

代码

import numpy as np
import matplotlib.pyplot as plt
from scipy.stats import norm
from scipy.optimize import brentq
from sklearn.neighbors.kde import KernelDensity

# Generate normal functions
x_axis = np.linspace(-3, 3, 100)
gaussianA = norm.pdf(x_axis, 2, 0.5)  # mean, sigma
gaussianB = norm.pdf(x_axis, 0.1, 1.5)

# Random-sampling from functions
a_samples = norm.rvs(2, 0.5, size=100)
b_samples = norm.rvs(0.1, 1.5, size=100)

# Fit KDE
def kde_sklearn(x, x_grid, bandwidth=0.2, **kwargs):
    """Kernel Density Estimation with Scikit-learn"""
    kde_skl = KernelDensity(bandwidth=bandwidth, **kwargs)
    kde_skl.fit(x[:, np.newaxis])
    # score_samples() returns the log-likelihood of the samples
    log_pdf = kde_skl.score_samples(x_grid[:, np.newaxis])
    return kde_skl, np.exp(log_pdf)

kdeA, pdfA = kde_sklearn(a_samples, x_axis, bandwidth=0.25)
kdeB, pdfB = kde_sklearn(b_samples, x_axis, bandwidth=0.25)

# Find intersection
def findIntersection(fun1, fun2, lower, upper):
    return brentq(lambda x : fun1(x) - fun2(x), lower, upper)

funcA = lambda x: np.exp(kdeA.score_samples([[x]][0]))
funcB = lambda x: np.exp(kdeB.score_samples([[x]][0]))

result = findIntersection(funcA, funcB, -3, 3)

# Plot
f, (ax1, ax2) = plt.subplots(1, 2, sharey=True)
ax1.plot(x_axis, gaussianA, color='green')
ax1.plot(x_axis, gaussianB, color='blue')
ax1.set_title('Original Gaussians')
ax2.plot(x_axis, pdfA, color='green')
ax2.plot(x_axis, pdfB, color='blue')
ax2.set_title('KDEs of subsampled Gaussians')
ax2.axvline(result, color='red')
plt.show()

输出

Output

说明

  • brentq似乎是最常见的根寻找算法(因为它稳定且快速)但是根据您的数据,可能需要进行参数调整
  • 可以切换到某种other优化算法
  • (对于建模目的有一些简化;例如,通常选择kde-bandwith并进行交叉验证以获得某些东西 比我的例子更好)

编辑:从fsolve切换到brentq,这应该更快&amp;更稳定

答案 1 :(得分:1)

好的,不打算编写代码,但我已经考虑了一些想法

根据PDF的高斯KDe估计,您可以得到CDF的估计值,这将是从高斯加权和加权误差函数之和的无精度损失步骤。

所以你有CDF1(x)和CDF2(x)。您构建f(x)= CDF1(x)-CDF2(x)。它等于 xmin为0,xmax为0。如果我们要找到f(x)的最小值/最大值,我们应该计算f(x)的导数并检查这种导数等于0的位置。

所以,f&#39;(x)=(CDF1(x)-CDF2(x))&#39; = PDF1(x) - PDF2(x),猜猜是什么 - 它在精确的PDF交叉点处等于0。因此,我们可以将搜索交叉问题转换为搜索最小/最大问题。

因此我建议构建f(x)并将其传递给某个最小/最大查找例程,例如,来自scipy.optimize的fmin()minimize_scalar