首页 > 其他分享 >计算机运算出错的原因

计算机运算出错的原因

时间:2023-01-07 18:56:24浏览次数:36  
标签:运算 计算机 二进制 出错 无法 十进制 小数

由于前一节了解到将小数二进制数转换成十进制数的方法后,计算机运算出错的原因也就容易理解了。之所以容易出错的原因是“有一些十进制数的小数无法转换成二进制数。例如:十进制数是0.1,就无法用二进制数表示。

 

 上图是小数点后四位能够用二进制数表示的数值(二进制数是连续的,十进制数是非连贯的)。同时通过这个图我们也可以清晰的认识到即使使用代码清单3-1也无法得到正确结果的原因是:因为无法正确表示数值,最后都变成了近似值,计算机这个功能有限的机器设备,是无法处理无限循环的小数的。

标签:运算,计算机,二进制,出错,无法,十进制,小数
From: https://www.cnblogs.com/2674308160-lucky/p/17033253.html

相关文章

  • 计算机管理----强制修改系统密码(win7)
    1、开机,关机,再开机,在出现启动图标时强制关机2、再次开机之后会出现“启动修复”的选项,点击进入修复(不还原,点击取消)3、系统检查完之后,会弹出“启动修复无法自动修复此计......
  • Golang入门到实战核心编程-第四章-运算符
    目录1.运算符介绍2.算数运算符2.1算数运算符介绍2.2算数运算符一览2.3算数运算符案例2.4算数运算符细节说明3.关系运算符3.1关系运算符介绍3.2关系运算符一览3.3......
  • C++实现链式表示多项式加法运算
    #include<iostream>#include<cstdlib>usingnamespacestd;#defineMAXSIZE100#defineOK1#defineERROR0typedefintElemtype;typedefintStatus;typedefstructPNo......
  • 由于i++与++i的运算顺序不同而导致的死循环
    死循环的原因:i++和++i的基本功能是相同的,都是对变量i进行自增1运算,从功能上讲相当于i=i+1;两个的区别在于: inti=1,a=0; i++先运算在赋值​,例如a=i+......
  • 计算机管理----本地用户和组
    计算机管理页面快捷键:compmgmt.msc注意:新建删除用户及组操作需要在管理员下操作一、用户netuser#列出所有用户netuserabc#查看用户abc的详细信息netus......
  • ARM Cortex-M0单片机进Hardfault后串口如何打印输出错误信息
    如果在程序运行时进hardfault想要打印出现问题前的错误信息,可按如下操作实现:我们先找到系统启动文件中的HardFault_Handler汇编入口,将其整个替换为如下写法:HardFault_Ha......
  • 计算机图形学(第四版) PDF 中文版
    目录图书介绍下载地址图书介绍《计算机图形学(第四版)》是2014年电子工业出版社出版的图书,作者是DonaldHearn、M.PaulineBaker、WarrenR.Carithers。本书是一本经典......
  • 37_Java中的浮点数精确运算
    java中的BigDemcimal用于小数的精确运算构造方法:​ BigDecimal(Stringval)四则运算:​ add(BigDecimalb):加法​ subtract(BigDecimalb):减法​ multiply......
  • 计算机语言发展史
    计算机语言发展史方向更易,更强历史机器语言——汇编语言(逆向工程,机器人,病毒)——高级语言(面向过程和面向对象)(C语言是现代高级语言的鼻祖,可写出不依赖硬件的程序)......
  • 什么是计算机
    什么是计算机按照程序运行,由硬件和软件组成。计算机的硬件计算机的组成包括:CPU主板内存电源主机箱硬盘显卡键盘鼠标显示器等,其中CPU,memory,motherboard是最重要......