(b-a)+ a!= b何时恰好在浮点中

时间:2018-07-17 08:05:06

标签: floating-point

我在一行上写了一些带段的代码,我努力从输入中节省最大的精度。我必须保持线段两端的坐标还是起点和长度足够?如果要保留我当前的漂亮体系结构,我必须要有篇幅,因此希望省略正确的一端。

或按照问题的形式正式提出:

假设我有0 <= a <= b 在什么情况下(b - a) + a不能完全产生b

1 个答案:

答案 0 :(得分:1)

为了扩展我的评论,我测试了小部分,上限为n。 a_i = i/n, i=1..nb_j = j/n, j=i+1..n。似乎对于大约4..5%的测试用例,相等性失败了。这里有一些数字:

   n   failed    tested     f/t
  10        2        55    0.036
  50       48      1275    0.038
 100      204      5050    0.040
 127      383      8128    0.047
2047   114752   2096128    0.055

n = 10的失败案例是a=2/10, b=9/10a=3/10, b=9/10