jvm

时间:2016-08-29 09:45:19

标签: java scala jvm double precision

我有测试断言值的总和等于某些预期结果。这些总和并不完全是值,所以我需要加精度。这是合乎逻辑的sum([a, a, a, ...n-times..., a]) != n*a

但我想知道预期的界限,而不是任意精度。我该如何计算这样的界限?

在导致我的问题的特定情况下,我将n个零和k个(通过计算双精度差,v1-v2得到)求和。因此,这应该等于k + - 精度。

那么应该使用什么精度?

  • k * 10e-15
  • (n + k)* 10e-15

我猜10e-15还取决于添加的值:0和1这里

0 个答案:

没有答案