本文共 939 字,大约阅读时间需要 3 分钟。
在程序运行中,如果运算结果太大超出了所定义的类型,那么可能会影响整个程序的运行结果,甚至是程序出错。
因此,在编写程序时,加入越界处理就显得一起重要了。
用整型 int 来举个例子吧,int型占四个字节,也就是32位,其中第一位(最高位)为符号。
#define INT_MAX ( (1 << 31) - 1) //定义int最大值#define INT_MIN ( 1 << 31) //定义int最小值或者int max = 0x7fffffff;int min = 0x80000000;
十六进制 | 二进制位 | 10进制数字 | |
1 | 0x00000001 | 0000 0000 0000 0000 0000 0000 0000 0001 | 1 |
(1<<31) | 0x7fffffff | 1000 0000 0000 0000 0000 0000 0000 0000 | -2 147 483 648 |
(1<<31)-1 | 0x800000000 | 0111 1111 1111 1111 1111 1111 1111 1111 | 2 147 483 647 |
(1<<31)得到最高位为 1 其余为为 0 ,即 2的31次方。同时最高位符号位为1,表示负数。得到 int最小值 -2 147 483 648
(1<<31)-1 最高位 0 其余位为 1,即 2的31次方 -1 。得到 int最大值 2 147 483 647。
同理,十六进制的 0x7fffffff 与 0x800000000 也可以表示 int型的取值范围。
最后,通过在程序中判断是否越界即可。
例:注意 result 的类型取值应大于int 型
if (result > INT_MAX) } return INT_MAX; { else if (result < INT_MIN) { return INT_MIN; }
if (result > max) return max; else if (result < min) return min;
转载地址:http://nzso.baihongyu.com/