一,原因
无法准确表示的值,就只能用近似值来表示计算机能力有限,无法处理无限小数,只能根据变量所对应的数据类型的数,采取四舍五入处理法进行处理。由于二进制为近似数,转化为十进制后与所求值存在误差,它是一种正常的现象。
二,浮点数
分类:双精度浮点类型有64位
单精度浮点类型有32位
格式:±m×ne次方
双精度浮点类型:有符号位一位指数位11位尾数位有52位
单精度浮点类型:符号位一位指数位八位尾数位有23位
三,规格化表示法和移码表示法
格化表示法的作用:将表示形式不一致的浮点数,统一的形式进行表示
阿表示法的特点:不使用符号,未来表示负数
程序确认:
例:0.75
↓
0-01111110-10000000000000000000000
↓ ↓ ↓
正 126-127=-1 1×2的零次方加1×2的负一次方等于1.1
四,避免出错
原因:浮点处理小数
存在溢出的情况
方法:忽略错误[适用于可以忽略微小误差的情况]
用整数替代小数[Bcd格式是一种适用于不允许有金钱误差的金融领域的一种方式,格式就是这种方式]
五,十六进制
16进制相较于二进制会更加的简略,更加的方便计算机读取,会增加计算机读取的效率。