在numpy中查找浮点数组的唯一元素(使用delta值进行比较)

时间:2011-03-24 23:38:09

标签: python numpy floating-point

我在numpy中有ndarray个浮点值,我想找到这个数组的唯一值。当然,这有问题,因为浮点精度...所以我希望能够设置一个delta值,用于比较哪些元素是唯一的。

有办法做到这一点吗?目前我只是在做:

unique(array)

这给了我类似的东西:

array([       -Inf,  0.62962963,  0.62962963,  0.62962963,  0.62962963,
    0.62962963])

其中看起来相同的值(显示的小数位数)显然略有不同。

4 个答案:

答案 0 :(得分:12)

另一种可能性是四舍五入到最接近的理想公差:

np.unique(a.round(decimals=4))

其中a是您的原始数组。

编辑:请注意,根据我的时间安排,我的解决方案和@ unutbu的速度几乎相同(我的速度可能快5%),所以要么是一个很好的解决方案。

编辑#2:这是为了解决保罗的担忧。它肯定是慢的,可能会有一些优化,但我发布它是为了展示战略:

def eclose(a,b,rtol=1.0000000000000001e-05, atol=1e-08):
    return np.abs(a - b) <= (atol + rtol * np.abs(b))

x = np.array([6.4,6.500000001, 6.5,6.51])
y = x.flat.copy()
y.sort()
ci = 0

U = np.empty((0,),dtype=y.dtype)

while ci < y.size:
    ii = eclose(y[ci],y)
    mi = np.max(ii.nonzero())
    U = np.concatenate((U,[y[mi]])) 
    ci = mi + 1

print U

如果在精度范围内有许多重复值,这应该是相当快的,但如果许多值是唯一的,那么这将是缓慢的。此外,最好将U设置为列表并通过while循环追加,但这属于“进一步优化”。

答案 1 :(得分:5)

在某些情况下floorround是否都不符合OP的要求?

np.floor([5.99999999, 6.0]) # array([ 5.,  6.])
np.round([6.50000001, 6.5], 0) #array([ 7.,  6.])

我这样做的方式是(这可能不是最佳的(并且肯定比其他答案慢))这样的事情:

import numpy as np
TOL = 1.0e-3
a = np.random.random((10,10))
i = np.argsort(a.flat)
d = np.append(True, np.diff(a.flat[i]))
result = a.flat[i[d>TOL]]

当然,此方法将排除除了任何其他值的容差范围内的一组值的最大成员之外的所有成员,这意味着如果所有值都非常接近,则可能在数组中找不到任何唯一值,即使max-min大于公差。

这里基本上是相同的算法,但更容易理解,应该更快,因为它避免了索引步骤:

a = np.random.random((10,))
b = a.copy()
b.sort()
d = np.append(True, np.diff(b))
result = b[d>TOL]

OP也可能希望调查scipy.cluster(对于此方法的花哨版本)或numpy.digitize(对于其他两种方法的花哨版本)

答案 2 :(得分:2)

我刚刚注意到接受的答案不起作用。例如。这种情况:

a = 1-np.random.random(20)*0.05
<20 uniformly chosen values between 0.95 and 1.0>
np.sort(a)
>>>> array([ 0.9514548 ,  0.95172218,  0.95454535,  0.95482343,  0.95599525,
             0.95997008,  0.96385762,  0.96679186,  0.96873524,  0.97016127,
             0.97377579,  0.98407259,  0.98490461,  0.98964753,  0.9896733 ,
             0.99199411,  0.99261766,  0.99317258,  0.99420183,  0.99730928])
TOL = 0.01

结果:

a.flat[i[d>TOL]]
>>>> array([], dtype=float64)

只是因为排序的输入数组的值没有足够的间隔至少是“TOL”appart,而正确的结果应该是:

>>>> array([ 0.9514548,  0.96385762,  0.97016127,  0.98407259,
             0.99199411])

(虽然这取决于你如何决定在“TOL”中采取哪个值)

你应该使用整数不受这种机器精度影响的事实:

np.unique(np.floor(a/TOL).astype(int))*TOL
>>>> array([ 0.95,  0.96,  0.97,  0.98,  0.99])

执行速度比建议的解决方案快5倍(根据%timeit)。

注意“.astype(int)”是可选的,虽然删除它会使性能恶化1.5倍,因为从int数组中提取唯一元素要快得多。

您可能希望将“TOL”的一半添加到唯一身份的结果中,以补偿地板效果:

(np.unique(np.floor(a/TOL).astype(int))+0.5)*TOL
>>>> array([ 0.955,  0.965,  0.975,  0.985,  0.995])

答案 3 :(得分:1)

这样的东西
np.unique1d(np.floor(1e7*x)/1e7)

其中x是您的原始数组。