我想解决一些关于溢出的问题。我有一些数据使用int来存储,数据不会导致溢出但计算中间可能会导致溢出。
例如,我需要存储方形的对角线,边的长度是50000,所以对角线是70710,边和对角线远小于INT_MAX,但是为了计算,a a + b b in sqrt( a + b b)会导致溢出。
我想关注"只需使用int"规则,所以我可能需要每次都转换每个变量:
int f =(long)a +(long)b *(long)c /(long)d-(long)e;
但每次add(long)都会影响可读性,我会测试哪个操作可能导致溢出,哪些操作可能会自动转换:
#include <sstream>
int main(){
int a=rand();
int b=a;
printf("%d\n",a);
printf("%d\n",INT_MAX);
printf("\n");
printf("%d\n",INT_MAX+a-b);
printf("%d\n",INT_MAX-b+a);
printf("%d\n",a+INT_MAX-b);
printf("%d\n",a-b+INT_MAX);
printf("%d\n",-b+a+INT_MAX);
printf("%d\n",-b+INT_MAX+a);
printf("\n");
printf("%d\n",INT_MAX*a/b);
printf("%d\n",INT_MAX/b*a);
printf("%d\n",a*INT_MAX/b);
printf("%d\n",a/b*INT_MAX);
printf("\n");
printf("%ld\n",(long)INT_MAX*a/b);
printf("%ld\n",INT_MAX*a/(long)b);
return 0;
}
输出是:
16807
2147483647
2147483647
2147483647
2147483647
2147483647
2147483647
2147483647
127772
2147480811
127772
2147483647
2147483647
127772
我使用rand()来确保没有编译时计算,我发现+和 - 对于不同的INT_MAX,+ a和-b序列的结果是相同的,但是对于* a和/ b则不是。
我发现甚至使用了cast,(长)INT_MAX a / b是正常的但INT_MAX a /(long)b不是。
我想对于+和 - ,如果结果小于INT_MAX,即使计算中间(例如:INT_MAX + a中的INT_MAX + a)可能导致溢出,也不会导致溢出,但对于*和/,溢出中间会影响结果,对吗?
同样对于*和/,我来宾操作从左侧开始,所以施法需要从左侧开始(例如:( long)INT_MAX*a / b),它也是对的吗?
因此,如果我的数据不会导致溢出但计算可能导致溢出,则
int f=a+b*c/d-e;
只需要重写为
int f=a+(long)b*c/d-e;
答案 0 :(得分:-1)
数据不会导致溢出,但计算中间可能会导致溢出。
为了避免int
溢出,这是未定义的行为,最简单的解决方案是使用足够宽的整数类型。
int foo1(int a, int b, int c, int d) {
int f=(long)a+(long)b*(long)c/(long)d-(long)e; // OP's stating point, but see foo2
return f;
}
但每次添加(长)都会影响可读性
为避免不必要的转换及其可读性,请仅在需要时使用* one
。一个好的编译器会优化显式乘法,但保留类型提升。
int foo2(int a, int b, int c, int d) {
int f = a + 1L*b*c/d - e; // Cleaner yet see foo3
return f;
}
为了确保潜在的更宽类型足够宽(long
可能与int
的宽度相同),执行编译时测试
// Find a type where INT_MAX*INT_MAX <= some_type_MAX
#if LONG_MAX/INT_MAX >= INT_MAX
#define WIDE1 1L
#elif LLONG_MAX/INT_MAX >= INT_MAX
#define WIDE1 1LL
#elif INTMAX_MAX/INT_MAX >= INT_MAX
#define WIDE1 ((intmax_t)1)
#else
#error Out of luck
#endif
int foo3(int a, int b, int c, int d) {
int f = a + WIDE1*b*c/d - e;
return f;
}
仅使用类型int
数学是工作以避免。
..但是对于计算,sqa(aa + bb)中的aa + bb将导致溢出。
对于这种情况
int hypoti1(int a, int b) {
return sqrt(WIDE1*a*a + WIDE1*b*b);
}
// or simply
int hypoti1(int a, int b) {
return hypot(a, b);
}