C ++：简单方程有问题吗？

Question

我在Windows XP上使用Visual C ++ 6.0。我的代码如下：

# include "stdio.h"
void main () {
 int m,n;
 double sum=0;
 n=65536;
 sum=1.0/(n*n);
 printf("%.20lf",sum);
 return;
}

我的代码输出是：

1.#INF0000000000000000

为什么我得到错误答案？如何正确计算1/(65536*65536)？我期待得到0.00000000023283064365386962890625。

感谢您的帮助！

Answer 1

有整数溢出。您可以在乘法之前将int转换为double：

sum=1.0/(((double)n)*n);

Answer 2

n * n对于整数来说太大了。把它翻倍。

Answer 3

假设你有32位整数n * n导致溢出（4294311936）。 整数范围从

–2,147,483,648 to +2,147,483,647  

您可以尝试将n声明为double n = 65536;

Answer 4

而不是投射你可以这样做：

double result = 1.0/n/n;

HTH

Answer 5

似乎两个int变量的乘法溢出，因为65536 * 65536不适合32位。尝试对long long和double使用m或n。

Answer 6

不确定双星**，但您需要使用long或long long类型来保存该大小的整数。

Answer 7

替换 总和= 1.0 /（N * N）; 通过 总和= 1.0 /（双）N /（双）n表示 原因是整数溢出（32位），然后是丢失的强制转换（辅助）。