添加零时奇怪的numpy.sum行为

时间:2015-06-23 09:00:25

标签: python numpy sum numerical-stability

我理解数学错误(例如,以不同顺序对浮点数求和)会导致数学上等效的算术运算导致不同的结果。

然而,令我惊讶的是,向sum添加零会改变结果。我认为这总是适用于花车,无论如何:x + 0. == x

这是一个例子。我预计所有的线都是零。任何人都可以解释为什么会这样吗?

M = 4  # number of random values
Z = 4  # number of additional zeros
for i in range(20):
    a = np.random.rand(M)
    b = np.zeros(M+Z)
    b[:M] = a
    print a.sum() - b.sum()

-4.4408920985e-16
0.0
0.0
0.0
4.4408920985e-16
0.0
-4.4408920985e-16
0.0
0.0
0.0
0.0
0.0
0.0
0.0
0.0
2.22044604925e-16
0.0
4.4408920985e-16
4.4408920985e-16
0.0

MZ的较小值似乎不会发生。

我也确定a.dtype==b.dtype

这是另一个例子,它还演示了python的内置sum按预期运行:

a = np.array([0.1,      1.0/3,      1.0/7,      1.0/13, 1.0/23])
b = np.array([0.1, 0.0, 1.0/3, 0.0, 1.0/7, 0.0, 1.0/13, 1.0/23])
print a.sum() - b.sum()
=> -1.11022302463e-16
print sum(a) - sum(b)
=> 0.0

我正在使用numpy V1.9.2。

1 个答案:

答案 0 :(得分:8)

简答:您看到了

之间的区别
a + b + c + d

(a + b) + (c + d)

由于浮点不准确而不一样。

长答案: Numpy实现成对求和作为速度优化(它允许更容易的矢量化)和舍入误差。

可以找到numpy sum-implementation here(函数pairwise_sum_@TYPE@)。它主要执行以下操作:

  1. 如果阵列的长度小于8,则执行常规的循环求和。这就是为什么在你的情况下W < 4没有观察到奇怪的结果 - 在这两种情况下都会使用相同的for循环求和。
  2. 如果长度在8到128之间,它会将总和累加到8个分箱r[0]-r[7]中,然后将它们加起来((r[0] + r[1]) + (r[2] + r[3])) + ((r[4] + r[5]) + (r[6] + r[7]))
  3. 否则,它递归地将数组的两半相加。
  4. 因此,在第一种情况下,您获得a.sum() = a[0] + a[1] + a[2] + a[3],在第二种情况下b.sum() = (a[0] + a[1]) + (a[2] + a[3])获得a.sum() - b.sum() != 0