我一直在阅读论文每个计算机科学家应该知道的关于浮点运算的内容。
我已经看过各种ULP计算，并且在对减法的讨论出现之前我觉得我非常理解。
Take another example: 10.1 - 9.93. This
becomes
x = 1.01 × 10^1
y = 0.99 × 10^1
x - y = .02 × 10^1
The correct answer is .17, so the computed difference is off by 30 ulps
and is wrong in every digit!
为什么这个30ulps而不是0.3？因为ulp肯定是0.01x10 ^ 1，换句话说是0.1。误差为0.03，即0.3 ulps。
答案 0 :(得分：2)
正确的答案写在评论中，但我会把它写下来作为答案，这样它就不会隐藏在评论噪音中。
基本上x - y = .02 × 10^1被规范化为2.00 × 10^-1，这意味着ULP现在是此规范化表示中的最小值：0.01 × 10^-1。
因此错误是
0.03 / [(0.01 × 10^-1)/ULP] = 30 ULP