设置浮点数的精度

时间:2016-06-25 20:00:41

标签: c++ floating-point precision

大家好我是C ++的新手 我正在尝试编写函数来计算第二惯性矩,并将精度设置为3位小数。 在输出中不应用第一个调用中的3个小数位,但应用了以下4个调用。这是我的代码,请帮我找到错误,如果可能请解释一些细节,非常感谢!

double beamMoment(double b, double h) //the function that calculating the second moment of inertia
{
    double I;  //variables b=base, h=height, I= second moment of inertia

    I = b * (pow(h, 3.0) / 12); // formular of the second momeent of inertia


    ofs << "b=" << b << "," << "h=" << h << "," << "I="  << I  << setprecision(3) << fixed <<  endl;
    ofs << endl;


    return I;

}

int main()
{
    beamMoment(10,100);
    beamMoment(33, 66);
    beamMoment(44, 88);
    beamMoment(26, 51);
    beamMoment(7, 19);
    system("pause");
    return 0;
}

我的文本文件中的输出如下:

b=10,h=100,I=833333 

b=33.000,h=66.000,I=790614.000 

b=44.000,h=88.000,I=2498730.667 

b=26.000,h=51.000,I=287410.500 

b=7.000,h=19.000,I=4001.083 

1 个答案:

答案 0 :(得分:2)

您必须在打印数字之前设置流精度

ofs << 5.5555 << setprecision(3) << endl; // prints "5.5555"
ofs << setprecision(3) << 5.5555 << endl; // prints "5.555"

流操作符<<>>实际上是可以链接的方法。假设我们有一段示例java代码:

dog.walk().stopByTheTree().pee();

在C ++中,如果我们使用流操作符,它看起来像:

dog << walk << stopByTheTree << pee;

dog个对象的操作从左到右执行,“箭头”的方向无关紧要。这些方法名称只是语法糖。

查看here了解更多详情。