首页 > 其他分享 >第三章 计算机进行小数运算时出错的原因

第三章 计算机进行小数运算时出错的原因

时间:2023-02-25 00:33:38浏览次数:36  
标签:第三章 计算机 尾数 出错 小数 运算

第三章观后感想:

           计算机之所以会出现运算错误的原因是因为有一些十进制数的小数无法转换成二进制数,计算机是个功能有限的机器设备,无法处理无限循环的小数。

           浮点数是用符号、尾数、基数和指数这四部分来表示的小数。符号部分是指使用一个数据位来表示数值的符号,尾数部分用的是将小数点前面的值固定为1的正则表达式,指数部分是用EXCESS系统表现的,尾数部分使用正则表达式。

          计算机运行的过程中如何避免计算出错的问题?首先是回避策略,即无视这些错误;另一个策略是把小数转换成整数来计算,因为计算机在进行小数计算时可能会出错,但是在计算整数的时候,只要不超过可处理数值的范围一定不会出现问题。

标签:第三章,计算机,尾数,出错,小数,运算
From: https://www.cnblogs.com/gy1123tnt/p/17153621.html

相关文章