《程序是怎样跑起来的》第三章
位数多的情况下经常使用十六进制数代替二进制数(基数为2)
我们在生活中不能过度依赖计算机,计算机并不是永远都是对的,人非圣贤孰能无过,计算机也一样也会有出错的时候
计算机处理数据通过二进制 在二进制表示整数和小数上有所不同 计算机出错的原因便在一些小数无法去转化为二进制数 使得结果变为了近似值 所以多个编程语言中通过浮点数表示 浮点数分为双精度浮点数和单精度浮点数 浮点数:符号,尾数,基数,指数 其中基数不会常考虑
尾数部位使用正则表达式(将小数点前的值固定为1)指数部分使用(excess系统)
双精度浮点数取值范围 >单精度浮点数 数值大小通过数据位表示
正则表达式就像是一种标准使得多样的浮点数统一 而excess系统指,通过指数部分表示范围的中间值设为0从而使负数不需要用符号表示
还有一种使计算机出错的情况是位溢出
规避计算机计算出错可以无视错误忽略误差或者将小数变为整数计算 此外BCD为一种通过一种表现另一种的方法
位数多的情况下经常使用十六进制数代替二进制数(基数为2)