无法弄清楚C

时间:2018-01-26 08:31:07

标签: c floating-point pow math.h

今天,我发现了一些我不知道的奇怪计算(在SO中也没有发现任何问题)关于pow() C中的math.h函数。

我正在尝试的代码是:

#include <stdio.h>
#include <math.h>

int main(){
    //1st case
    long long result = pow(2, 63);
    printf("1st case: %lld\n", result);

    //2nd case
    result = pow(2, 64);
    printf("2nd case: %lld\n", result);

    //3rd case
    printf("3rd case: %lld\n", (long long) (pow(2, 64)/12000));

    //4th case
    result = pow(2, 64);
    result = result/12000;
    printf("4th case: %lld\n", result);

    //5th case
    result = pow(2, 64) / 12000;
    printf("5th case: %lld\n", result); 

    return 0;
}

输出结果为:

1st case: 9223372036854775807
2nd case: 9223372036854775807
3rd case: 1537228672809129
4th case: 768614336404564
5th case: 1537228672809129

我有几个问题,我不清楚。我正在使用CodeBlocks 16.01 IDE和GNU GCC编译器。

1。在第一种情况下,输出为2^63 = 9223372036854775807。为什么会这样?这里的最后一位数字很奇怪。它应该是9223372036854775808

2。在第二种情况下,2^64 = 9223372036854775807,与先前计算的2^63相同(实际上,对于任何大于63的指数值,这都是相同的)。是的,我知道long long int数据类型出现溢出。但为什么分配了错误的值?

3. 在第3例和第5例(实际上相同)中,答案是正确的。但在第四种情况下,答案是错误的。根据算术运算,第四种情况下的数学运算应与其余两种情况相同,但实际上并非如此。然后差异在哪里?

1 个答案:

答案 0 :(得分:6)

Aren这些警告(编译为gcc prog.c -Wall -Wextra)对你来说足够了吗?

prog.c: In function 'main':
prog.c:6:24: warning: overflow in conversion from 'double' to 'long long int' changes value from '(double)9.2233720368547758e+18' to '9223372036854775807' [-Woverflow]
     long long result = pow(2, 63);
                        ^~~
prog.c:10:14: warning: overflow in conversion from 'double' to 'long long int' changes value from '(double)1.8446744073709552e+19' to '9223372036854775807' [-Woverflow]
     result = pow(2, 64);
              ^~~
prog.c:17:14: warning: overflow in conversion from 'double' to 'long long int' changes value from '(double)1.8446744073709552e+19' to '9223372036854775807' [-Woverflow]
     result = pow(2, 64);
              ^~~

我的意思是发生溢出,然后发生舍入,这给出了这个输出,因为实际值根本不适合该数据类型。如果是long double,事情会有所不同。 (不要忘记使用%Lf进行打印。)

What causes floating point rounding errors?

中了解详情

PS:在案例3中,你在转换为long long之前进行除法,因此它使用浮点值,这是正确的,正如Barmar正确评论的那样。