首页 > 其他分享 >如何避免计算机计算出错

如何避免计算机计算出错

时间:2023-01-07 19:24:07浏览次数:29  
标签:计算机 浮点数 避免 出错 计算 100 小数

计算机计算出错的原因之一是,采用浮点数来处理小数(另外,也有因“位溢出”而造成计算错误的情况)。作为程序的数据类型,不管是使用单精度浮点数还是双精度浮点数,都存在计算出错的可能性。接下来将介绍两种避免该问题的方法。
(1)是回避策略,即无视这些错误。

根据程序目的的不同,有时一些微小的偏差并不会造成什么问题。例如,假设使用计算机设计工业制品。将100个长0.1毫米的零件连接起来后,其长度并非一定要是10毫米,10.000002毫米也没有任何问题。一般来讲,在科学技术计算领域,计算机的计算结果只要能得到近似值就足够了。那些微小的误差完全可以忽略掉。
(2)是把小数转换成整数来计算。

计算机在进行小数计算时可能会出错,但进行整数计算(只要不超过可处理的数值范围)时一定不会出现问题。因此,进行小数的计算时可以暂时使用整数,然后再把计算结果用小数表示出来即可。例如,本章一开头讲过的将0.1相加100次这一计算,就可以转换为将0.1扩大10倍后再将1相加100次的计算,最后把结果除以10就可以了(代码清单3-3)。

 

 

 

除此之外,BCD(二进制化十进制数)也是一种使用二进制表示十进制的方法。简单来讲,BCD就是用4位来表示0~9的1位数字的处理方法,这里不再做详细说明。在涉及财务计算等不允许出现误差的情况下,一定要将小数转换成整数或者采用BCD方法,以确保最终得到准确的数值。

 

标签:计算机,浮点数,避免,出错,计算,100,小数
From: https://www.cnblogs.com/2674308160-lucky/p/17033305.html

相关文章

  • 计算机运算出错的原因
    由于前一节了解到将小数二进制数转换成十进制数的方法后,计算机运算出错的原因也就容易理解了。之所以容易出错的原因是“有一些十进制数的小数无法转换成二进制数。例如:十......
  • 计算机管理----强制修改系统密码(win7)
    1、开机,关机,再开机,在出现启动图标时强制关机2、再次开机之后会出现“启动修复”的选项,点击进入修复(不还原,点击取消)3、系统检查完之后,会弹出“启动修复无法自动修复此计......
  • 计算机管理----本地用户和组
    计算机管理页面快捷键:compmgmt.msc注意:新建删除用户及组操作需要在管理员下操作一、用户netuser#列出所有用户netuserabc#查看用户abc的详细信息netus......
  • ARM Cortex-M0单片机进Hardfault后串口如何打印输出错误信息
    如果在程序运行时进hardfault想要打印出现问题前的错误信息,可按如下操作实现:我们先找到系统启动文件中的HardFault_Handler汇编入口,将其整个替换为如下写法:HardFault_Ha......
  • 计算机图形学(第四版) PDF 中文版
    目录图书介绍下载地址图书介绍《计算机图形学(第四版)》是2014年电子工业出版社出版的图书,作者是DonaldHearn、M.PaulineBaker、WarrenR.Carithers。本书是一本经典......
  • 计算机语言发展史
    计算机语言发展史方向更易,更强历史机器语言——汇编语言(逆向工程,机器人,病毒)——高级语言(面向过程和面向对象)(C语言是现代高级语言的鼻祖,可写出不依赖硬件的程序)......
  • 什么是计算机
    什么是计算机按照程序运行,由硬件和软件组成。计算机的硬件计算机的组成包括:CPU主板内存电源主机箱硬盘显卡键盘鼠标显示器等,其中CPU,memory,motherboard是最重要......
  • Debian ping: www.baidu.com: Temporary failure in name resolution域名解析出错
    可以通过ip连接ping通,但是通过域名ping就会提示DNS暂时解析失败尝试了各种解决办法一、resolv.conf这个文件在debian9的目录/etc/systemed/目录下但是按照网上的方法直......
  • 计算机网络企业级网络构建与配置实现实验
    企业级网路构建与配置实现实验具体任务本次实验要完成的主要任务有:(1)设备命名和端口规划(2)IP地址规划对图6-1中的所有网络进行IP地址的分配和子网划分。(3)VLAN划分与配......
  • 计算机系统基础
    总线可以划分为数据总线、地址总线和控制总线。cpu,程序计数器、指令寄存器、指令译码器属于cpu控制单元的部件。加法器,属于算术逻辑运算单元的部件。cpu对主存的访问方式......