Double、Float等值为什么有最大数值精度
- Double:保存方案为IEEE754,其中52位尾码,11位阶码。阶码范围位[-1023, 1024],那么一定可以取到52,按照IEEE754二进制装十进制公式,最大会存在53个1,转十进制即253-1。此时还可以加1,使得尾码全0,阶码53,丢失一个必然为0的位,那么最大值即为253。
- float同理。
保存格式 | 计算公式 |
---|---|
参考: https://en.wikipedia.org/wiki/Double-precision_floating-point_format
PS: markdown写指数: a^b^