首页 > 其他分享 >第三章——计算机进行小数运算时出错的原因

第三章——计算机进行小数运算时出错的原因

时间:2024-02-05 10:23:27浏览次数:19  
标签:第三章 计算机 二进制 浮点数 出错 十进制 小数

在使用小数运算时计算机也会出错,这是因为有些十进制的小数无法转换为二进制数———例如二进制数0.0000对应的十进制数是0,二进制数0.0001对应的十进制数为0.625,由此得之二进制数是连续的而十进制数不是连续的,那十进制数0~0.625之间的数就无法用二进制数表示,进而出现错误。
那实际上计算机内部是以什么形式来处理处理小数的呢?
很多编程语言用单精度浮点数32位和双精度浮点数64位来表示全体小数,浮点数是指用符号,尾数,基数,指数表示的小数。符号部分是指用一个数据位来表示数值的符号,尾数部分用将小数点前面固定为1的正则表达式,指数部分用的是EXCESS系统表现
正则表达式——可以将表现形式多样的浮点数统一为一种表现形式。
EXCESS系统表现——通过将指数表示中间范围的中间值设为0,使得负数不用符号来表示。
如何避免计算机运算出错

  • 采用回避方式既无视错误,用于不需要十分精确的数值时。
  • 可以将小数转化为整数来计算。
  • 在涉及财务计算等不允许出误差的情况下,一定要将小数转换为整数或者采用BCD方法。

标签:第三章,计算机,二进制,浮点数,出错,十进制,小数
From: https://www.cnblogs.com/c-yying/p/18007465

相关文章

  • 《程序是怎样跑起来的》第三章总结
    第三章:计算机在计算小数时会出错的原因1,所有信息都是用二进制表示的,但用二进制表示整数和小数的方法有很大的区别,整数二进制转换十进制,就是各个数字和他们的位权相乘,结果相加,位权递增。小数二进制转换十进制,就是各个数字和他们的位权相乘,结果相加,位权递减。2计算机出错的原因:......
  • 《程序是怎样跑起来的》第三章观后感
    《程序是怎样跑起来的》这本书的第三章带领我深入到了程序的运行环境中,让我对计算机的内部运作有了更加细腻的认识。这一章着重于程序运行时的各种细节,包括操作系统的角色、内存管理、进程与线程的概念,以及输入输出系统的工作原理。首先,作者以简洁的语言解释了操作系统的核心职能......
  • 第k小数字
    importjava.io.BufferedReader;importjava.io.IOException;importjava.io.InputStreamReader;publicclassMain{publicstaticintquickSort(int[]arr,intl,intr,intk){if(l==r){returnarr[l];}//划分为左边......
  • 缩小数据范围——nc2.4多校_A.新春游戏之数学系列
    目录问题概述思路分析参考代码做题反思问题概述原题参考A.新春游戏之数学系列大致就是给出一个数组,要求求出一个公式的值,有几个数据范围值得注意一下,一是数组的长度为[0,1e6],二是数组元素的和不超过5e7思路分析赛时第一眼准备去分析公式看看有没有可以优化的,用前缀拆分优化......
  • [office] Excel多表数据出错怎么办
    Excel多表数据出错怎么办用个例子说话:下面的这个Excel工作簿是向员工发放工资通知的原始表集合,Sheet1到Sheet4从分别保存4个不同部门的员工记录,这些员工均住在“万寿南路”,但由于录入人员的疏忽,统统都输成了万寿路,虽然缺少一个字,但所有表格的地址都错了。现在需要快速地将所有......
  • 《程序是怎样跑起来的》第三章读后感
    1·什么是浮点数?浮点数:用符号、尾数、基数、指数这4部分来表示的小数就是浮点数在计算中因为内部只使用二进制,因此计算机中省略掉了基数,只使用符号、尾数、指数3部分表示浮点数。2·IEEE标准浮点数表现形式:符号部分:占用一个数据位,该为=1表示负数,=0表示正数,数值的大......
  • 《系统科学方法概论》第三章读后感
    在读了第三章之后,我知道了通信方式的由来。古代由于通信不方便,于是先产生了有声语言,接着因为距离的问题产生了文字,用文字来互相传递书信,后来还发明了用光信号来通信,但是慢慢已经满读不了需求,于是各种缺点慢慢显现出来,最终产生了近代通信技术——有线电通信,以及后来的无线电通信。......
  • 系统科学方法概论学习心得——第三章 信息方法
    学习内容:本章学习包括了六节内容:信息科学简史、什么是信息和信息量、信息属性及规律、信息技术、利用信息认识事物的方法。心得感悟:从古至今,信息科学主要是在通信实践基础上发展起来的一门科学,因此想要了解信息科学的创立,首先要对通信实践的历史进行了解。信息的传播往往需要......
  • 计算机进行小数运算时出错的原因
    看完第三章之后我知道了运算出错的原因是有一些十进制数的小数无法转换成二进制数还有就是小数是使用浮点数表示,浮点数是指符号尾数基数和指数这四个部分组成浮点数的表示右很多种其中最为普遍的是IEEE标准符号部分是指使用一个数据位来表示数值的符号;位数部分使用的是正则表达......
  • 程序是怎样跑起来的日矢泽久雄 第三章
    第三章向我们详细介绍了计算机硬件的基础知识。CPU:作者详细解释了中央处理器(CPU)如何执行指令,并将其比喻为指挥家。他深入探讨了CPU中的寄存器、ALU和控制单元等组件的功能。内存:内存被形象地描述为舞台,存储着程序和数据。作者解释了不同类型的内存(例如RAM和ROM)以及它们如何......