标签: java scala jvm double precision
我有测试断言值的总和等于某些预期结果。这些总和并不完全是值,所以我需要加精度。这是合乎逻辑的sum([a, a, a, ...n-times..., a]) != n*a。
sum([a, a, a, ...n-times..., a]) != n*a
但我想知道预期的界限,而不是任意精度。我该如何计算这样的界限?
在导致我的问题的特定情况下,我将n个零和k个(通过计算双精度差,v1-v2得到)求和。因此,这应该等于k + - 精度。
那么应该使用什么精度?
我猜10e-15还取决于添加的值:0和1这里