首页 > 其他分享 >3.7 如何避免计算机计算出错

3.7 如何避免计算机计算出错

时间:2023-02-08 22:35:17浏览次数:41  
标签:计算机 浮点数 3.7 出错 计算 100 小数

计算机计算出错的原因之一是,采用浮点数来处理小数(另外,也有因“位溢出”而造成计算错误的情况)。作为程序的数据类型,不管是使用单精度浮点数还是双精度浮点数,都存在计算出错的可能性。接下来将介绍两种避免该问题的方法。
(1)是回避策略,即无视这些错误。

根据程序目的的不同,有时一些微小的偏差并不会造成什么问题。例如,假设使用计算机设计工业制品。将100个长0.1毫米的零件连接起来后,其长度并非一定要是10毫米,10.000002毫米也没有任何问题。一般来讲,在科学技术计算领域,计算机的计算结果只要能得到近似值就足够了。那些微小的误差完全可以忽略掉。
(2)是把小数转换成整数来计算。

计算机在进行小数计算时可能会出错,但进行整数计算(只要不超过可处理的数值范围)时一定不会出现问题。因此,进行小数的计算时可以暂时使用整数,然后再把计算结果用小数表示出来即可。例如,本章一开头讲过的将0.1相加100次这一计算,就可以转换为将0.1扩大10倍后再将1相加100次的计算,最后把结果除以10就可以了(代码清单3-3)。

 

除此之外,BCD(二进制化十进制数)也是一种使用二进制表示十进制的方法。简单来讲,BCD就是用4位来表示0~9的1位数字的处理方法,这里不再做详细说明。在涉及财务计算等不允许出现误差的情况下,一定要将小数转换成整数或者采用BCD方法,以确保最终得到准确的数值。

标签:计算机,浮点数,3.7,出错,计算,100,小数
From: https://www.cnblogs.com/ttmeng/p/17103569.html

相关文章

  • 2.1用二进制数表示计算机信息的原因
       计算机内部是由IC这种电子部件构成的。第1章介绍的CPU(微处理器)和内存也是IC的一种。IC有几种不同形状,有的像一条黑色蜈蚣,在其两侧有无数个乃至数百个引脚;有的则......
  • 计算机专业相关竞赛
    1、算法竞赛ICPC,网络赛(省赛)+区域赛(分站赛)+总决赛。一年一次。CCPC,网络赛+区域赛+总决赛,一年一次。Codeforces周赛LeetCode周赛/双周赛GoogleCodeJamTopcoderPAT、C......
  • 计算机相关专业及本科课程整理
    problem本科的计算机课程好多傻乎乎的分不清有哪些具体的专业,以及要学什么这里做个整理solution首先专业门类限定在工学和理学,以工学为主工学当中,比较相关的有计算机类,电......
  • 【CSP】第20届CCF CSP计算机软件能力认证划水贴
    1、报考1、考试时间报名时间:2020年8月17日0时至2020年9月6日24时。考试时间:2020年9月13日(周日)下午13:30-17:30。其他:在9月13日13:00前到达准考证上标示的考场地址签到(签......
  • 2020计算机行业就业职位及分析
    一、从招聘网站开始招聘网站主要可分为综合类和垂直类。综合类招聘网站是指其提供的招聘信息很全面,涉及到各行各业,只要不是太冷门都有。垂直类招聘网站则是指按照不同行业进......
  • 2021年下半年 全国计算机技术与软件专业技术资格考试 浙江省合格人员数据分布
    1、数据来源数据来源:浙江软件考试网公布的名单​​​http://www.zjrjks.org/​​​http://www.zjrjks.org/interIndex.do?method=draftinfo&draftId=2c90818b-7da22881-01......
  • 计算机网络数据链路层
    计算机网络数据链路层基础概论基本概念:数据链路层在物理层和网络层之间,提供相邻节点的可靠数据传输帧组成:帧:数据链路层的基本单位帧头:存放源mac地址与目的mac地......
  • 计算机科学
    一. 早期计算1.计算机的影响——信息时代出现了自动化农业与医疗设备全球化的通信和教育普及虚拟现实和无人驾驶汽车等新领域2.计算的历史公元前2500年,算盘......
  • 1e9+7对于计算机
    1e9+7对于计算机来说意味着什么出现场景最近做LeetCode,发现很多关于数值计算的问题,在最后都要将结果%1e9+7。于是就好奇为什么要模这个值?别的值不行吗?1e9+7是一个质数......
  • 个性化泛在学习支持系统对大学生计算机编程课程学习表现和态度的影响
    个性化泛在学习支持系统对大学生计算机编程课程学习表现和态度的影响(Effectsofapersonalisedubiquitouslearningsupportsystemonuniversitystudents’learnin......