我使用C ++ / Qt对小双数进行计算,发生了一些奇怪的事情。在下面的代码中,t_prob的值应该是1.62457e-12,但它是3.24907e-12(如2 * 1.62457e-12)。
同时,我添加了一个带有a,b,c和d的控件,结果是正确的。
你能否就这个问题给我一些建议。提前谢谢。
#include <QDebug>
#include <QtMath>
#define PI 3.1415926536
double tprob(qint64 n, double x);
int main(int argc, char *argv[])
{
double a = 1.0;
double b = 0.00000000000162448;
double c = a - b;
double d = 1.0 - c;
qDebug() << "a:" << a;
qDebug() << "b:" << b;
qDebug() << "c:" << c;
qDebug() << "d:" << d;
double df = 127.793;
double t_statistic = 9.77749;
double ta = tprob(floor(df),-1.0 *t_statistic);
double tb = tprob(floor(df), t_statistic);
double t_prob = 1.0 - qAbs(ta - tb);
qDebug() << "df:" << df;
qDebug() << "t_statistic:" << t_statistic;
qDebug() << "ta:" << ta;
qDebug() << "tb:" << tb;
qDebug() << "t_prob:" << t_prob;
return 1;
}
double tprob(qint64 n, double x){
if( n < 0 ){
qDebug() << "[error] wrong n value input for tprob";
exit(0);
}
double a,b,w,z,y,p;
w=atan2(1.0 * x/sqrt(n),1);
z=cos(w)*cos(w);
y=1.0;
p=0;
for(qint64 i=n-2; i>=2;i-=2){
y= 1 + 1.0 * (i-1)/i * z * y;
}
if( n%2 ==0){
a=sin(w)/2;
b=0.5;
}else{
a = (n==1)?0:sin(w)*cos(w)/PI;
b = 0.5 + w/PI;
}
p = 1- b - a * y;
if( p>0){
return p;
}else{
return 0;
}
}
输出:
a: 1.62448e-12
b: 1
c: 1
d: 1.62448e-12
df: 127.793
t_statistic: 9.77749
ta: 1
tb: 1.62457e-12
t_prob: 3.24907e-12
答案 0 :(得分:1)
当您使用<<
打印浮动值时,默认情况下您只能获得6位精确度。
比较
qDebug() << "c:" << c;
output: 1
使用:
qDebug() << "c:" << QString("%1").arg(c, 0, 'g', 15);
output: "0.999999999998376"
所以tprob = 1.0 - qAbs(ta - tb)= 1.0 - qAbs(1.0 - epsilon - epsilon)= 2 * epsilon