我试图做一个elipsoid并且这样做我需要以下操作
float result = this->eValues[0]+this->eValues[2]-this->eValues[1]
在这种情况下
eValues[0]=-1.86265e-09;
eValues[1]=8.999999;
eValues[2]=8.999999;
它应该返回-1.86265e-09,但结果是0
由于
答案 0 :(得分:7)
这是浮点精度的问题,通过添加的顺序使其更清晰:
#include <iostream>
int main() {
float a = -1.86265e-09;
float b = 8.999999;
float c = 8.999999;
std::cout << ((a + b) - c) << std::endl; // 0
std::cout << (a + (b - c)) << std::endl; // -1.86265e-09
return 0;
}
第一个输出产生0的原因是-1.86265e-09
相对于8.999999
非常小。存储浮点数的指数差异太大,浮点数不能产生正确的算术答案