我正在开发一个用于运动控制的代码,我遇到了pow功能的问题。 我使用VS2010作为IDE。
这是我的问题: 我有:
double p = 100.0000;
double d = 1000.0000;
t1 = pow((p/(8.0000*d),1.00/4.000);
在评估最后一项功能时,我不会得到更好的近似值。我得到一个正确的7位十进制数字,结果数字都是垃圾。 我猜测pow函数只将任何输入变量转换为float和过程与计算。
编辑:已解决。
毕竟,我遇到了由OGRE 3D框架使用的Direct3D引起的FPU配置位问题。
如果使用OGRE,在配置GUI上,只需设置"浮点模式=一致"。
如果使用原始Direct3D,在调用CreateDevice时,请务必通过" D3DCREATE_FPU_PRESERVE"标志着它。
原帖:
您可能正在使用更改默认精度的库 FPU为单精度。然后所有的浮点运算,甚至 在双精度上,实际上将作为单精度操作执行。
作为测试,您可以尝试调用_controlfp(_CW_DEFAULT,0xfffff); (您需要包括)在执行计算之前 看看你是否得到了正确的结果。这将重置浮点 将字控制为默认值。请注意,它将重置其他设置 同样,这可能会导致问题。
一个改变浮点精度的公共库是 Direct3D 9(也可能是其他版本):默认情况下,它会改变 创建设备时FPU为单精度。如果您使用它,请指定 创建设备时标志D3DCREATE_FPU_PRESERVE以防止它 从改变FPU精度。
答案 0 :(得分:4)
您可能正在使用将FPU的默认精度更改为单精度的libray。然后,即使在double
上,所有浮点运算实际上都将作为单精度运算执行。
作为测试,您可以在执行计算之前尝试调用_controlfp( _CW_DEFAULT, 0xfffff );
(您需要包含<float.h>
)以查看是否获得了正确的结果。这会将浮点控制字重置为默认值。请注意,它也会重置其他设置,这可能会导致问题。
一个改变浮点精度的公共库是Direct3D 9(也可能是其他版本):默认情况下,它在创建设备时将FPU更改为单精度。如果您使用它,请在创建设备时指定标志D3DCREATE_FPU_PRESERVE
以防止它更改FPU精度。
答案 1 :(得分:0)
你是如何确定你只获得7位精度的?您打印t1
并指定正确的输出格式吗?在我的机器上,使用VS2010,代码如下:
int main()
{
double p = 100.0000;
double d = 1000.0000;
double t1 = pow(p/(8.0000*d),1.00/4.000);
printf("t1=%.15f\n", t1); // C
std::cout << "t1=" << std::setprecision(15) << t1 << '\n'; // C++
}
生成此输出:
t1=0.334370152488211
t1=0.334370152488211