使用浮点数和错误结果的C ++简单数学运算？

Question

我需要简单的数学运算和一些浮点数，如“3.3 - 2.6”。结果是0.700001。我不知道为什么会有像0.700001这样的数字。

Some examples

你能帮我吗？

Answer 1

您需要阅读What Every Computer Scientist Should Know About Floating-Point Arithmetic

Answer 2

计算机以有限精度处理二进制格式的数字。不能精确地表示各种简单的十进制数，因此它给出了最接近的答案。

解决问题的常用方法是限制实际显示的精度。如果您使用C ++流进行输出，则std::fixed和std::setprecision操纵器应该有所帮助。

Answer 3

3.3 is represented in memory as 3.29999

和

2.6 is represented in memory as 2.59998

所以

 3.3 -2.6 = 0.70001

this post可能会让您对此事有更深入的了解

Answer 4

也许这是因为浮动精度。尝试使用double。