在下面的示例应用中,我使用953
0.1
除以std::fmod
后的浮点余数
我期待的是953.0 / 0.1 == 9530
,std::fmod(953, 0.1) == 0
我得到0.1
- 为什么会这样?
请注意,std::remainder
我得到了正确的结果。
那是:
std::fmod (953, 0.1) == 0.1 // unexpected
std::remainder(953, 0.1) == 0 // expected
std::fmod
计算以下内容:确切的值为x - n*y
,其中n
为x/y
,其小数部分被截断
std::remainder
计算以下内容:值x - n*y
,其中n
是最接近精确值的整数值x/y
根据我的输入,我希望两个函数具有相同的输出。为什么不是这样?
#include <iostream>
#include <cmath>
bool is_zero(double in)
{
return std::fabs(in) < 0.0000001;
}
int main()
{
double numerator = 953;
double denominator = 0.1;
double quotient = numerator / denominator;
double fmod = std::fmod (numerator, denominator);
double rem = std::remainder(numerator, denominator);
if (is_zero(fmod))
fmod = 0;
if (is_zero(rem))
rem = 0;
std::cout << "quotient: " << quotient << ", fmod: " << fmod << ", rem: " << rem << std::endl;
return 0;
}
quotient: 9530, fmod: 0.1, rem: 0
答案 0 :(得分:11)
因为它们的功能不同。
std::remainder(x, y)
计算x - (round(x/y)*y)
round
,其中round(1.0/2.0) == 0
为IEEE remainder(特别是x - trunc(x/y)*y
)
rounding half to even计算953
。当您将0.1
除以953.0 - 952.9 = 0.1
时,您可能会得到一个略小于9530的数字,因此截断值为9529.因此,您得到的结果为{{1}}
答案 1 :(得分:10)
欢迎使用浮点数学。这里发生了什么:十分之一不能用二进制精确表示,就像三分之一不能用十进制精确表示一样。结果,除法产生的结果略低于9530. floor操作产生整数9529而不是9530.然后剩下0.1剩余。