《程序是怎么跑起来的第三章》:计算机进行小数处理也有可能会出现问题,是在将二进制表示的小数转换为十进制时出现的错误,因为有些十进制的小数无法转换为二进制,也就无法用二进制来表示,我们只能从中得到它们的近似值。那我们就要用浮点数来表示小数,这样在计算机内部就可以使用,浮点数是用符号,尾数,基数,和指数四部分来组成的,其实也是三部分组成的,符号,尾数和指数,因为计算机使用二进制数,那么基数就是2。双精度浮点数(64位)和单精度浮点数(32位)是两种表示小数的数据类型。浮点数表示方式有很多种,我们最普遍的用IEEE标准,符号部分是使用一个数据位来表示数值的符号,1为负,0表示正或者0。而尾数部分用的是将小数点前面的值固定为1的正则表达式,十进制的浮点数需遵循“小数点前面是0,小数点后面第一位不能是0”,二进制中需遵循“将小数点前面的值为1的正则表达式”。之后便要尽量避免计算机出错,我们就要掌握避免这种错误出现的方法。首先是回避策略,无视这些错处,计算机的计算结果只要得到一个近似值就可以,我们可以选择无视掉微小的错误,其次就是将小数转换为整数来计算,计算整数时只要不出现整数的范围就一定不会出错。二进制和十六进制的关系,在数值的开头加上0x就代表十六进制,二进制的4位相当于十六进制的1位。不够四位时补0低位,使用十六进制数,二进制的位数就会缩小至原来的四分之一。
标签:十六进制,第三章,计算机,二进制,浮点数,程序,小数点,怎样,小数 From: https://www.cnblogs.com/b222/p/17017337.html