博客
关于我
int 越界处理
阅读量:261 次
发布时间:2019-03-01

本文共 939 字,大约阅读时间需要 3 分钟。

在程序运行中,如果运算结果太大超出了所定义的类型,那么可能会影响整个程序的运行结果,甚至是程序出错。

因此,在编写程序时,加入越界处理就显得一起重要了。

用整型 int 来举个例子吧,int型占四个字节,也就是32位,其中第一位(最高位)为符号。

#define INT_MAX ( (1 << 31) - 1)    //定义int最大值#define INT_MIN ( 1 << 31)            //定义int最小值或者int max = 0x7fffffff;int min = 0x80000000;

 

  十六进制 二进制位 10进制数字
    1 0x00000001 0000 0000 0000 0000 0000 0000 0000 0001  1
(1<<31) 0x7fffffff 1000 0000 0000 0000 0000 0000 0000 0000 -2 147 483 648
(1<<31)-1 0x800000000  0111  1111 1111  1111  1111  1111  1111 1111  2 147 483 647

 

 

 

 

 

(1<<31)得到最高位为 1 其余为为 0 ,即 2的31次方。同时最高位符号位为1,表示负数。得到 int最小值 -2 147 483 648 

(1<<31)-1  最高位 0 其余位为 1,即 2的31次方 -1  。得到 int最大值 2 147 483 647。

同理,十六进制的 0x7fffffff 与 0x800000000 也可以表示 int型的取值范围。

 最后,通过在程序中判断是否越界即可。

 例:注意 result 的类型取值应大于int

if (result > INT_MAX)        }            return INT_MAX;        {        else if (result < INT_MIN)        {            return INT_MIN;        }

 

if (result > max)    return max;        else if (result < min)    return min;

 

 

转载地址:http://nzso.baihongyu.com/

你可能感兴趣的文章
夜光精讲 Opentcs 三大算法(十三)调度算法
查看>>
夜光精讲 Opentcs 通信系统
查看>>
夜光:基于 SpringMVC 框架的图片视频库系统的设计与实现 (一)
查看>>
夜光:计算机网络笔记(七)
查看>>
夜光带你走进 C语言(五十八)
查看>>
夜光带你走进 C语言(八十五)
查看>>
python作业之JSON数据的处理
查看>>
Aid Learning0.87F3安装vue.js
查看>>
Springboot添加log4j日志
查看>>
Could not resolve host: mirrorlist.centos.org; 未知的错误
查看>>
导入工程时出现错误
查看>>
第一章:QT的概述
查看>>
one-hot编码的流程步骤
查看>>
HTML中!DOCTYPE含义以及各个信息参数的详解
查看>>
【Java】Java基础之局部变量和成员变量
查看>>
如何删除SQL Server 2014
查看>>
手把手教你用docker部署自己的npm私服verdaccio
查看>>
npm publish failed to parse json EJSONPARSE
查看>>
error TS1192: Module ‘“fs“‘ has no default export.
查看>>
Java高并发系列(读书笔记)——等待(wait)和通知(notify)机制
查看>>