首页 > 其他分享 >3.3计算机运算出错的原因

3.3计算机运算出错的原因

时间:2023-02-05 10:45:34浏览次数:53  
标签:运算 二进制 计算机 出错 3.3 无法 十进制 小数

由于前一节了解到将小数二进制数转换成十进制数的方法后,计算机运算出错的原因也就容易理解了。之所以容易出错的原因是“有一些十进制数的小数无法转换成二进制数。例如:十进制数是0.1,就无法用二进制数表示。

上图是小数点后四位能够用二进制数表示的数值(二进制数是连续的,十进制数是非连贯的)。

同时通过这个图我们也可以清晰的认识到即使使用代码清单3-1也无法得到正确结果的原因是:因为无法正确表示数值,最后都变成了近似值,计算机这个功能有限的机器设备,是无法处理无限循环的小数的。

 

标签:运算,二进制,计算机,出错,3.3,无法,十进制,小数
From: https://www.cnblogs.com/z1218/p/17092990.html

相关文章

  • 2.3移位运算和乘除运算的关系
    在了解了二进制数的机制后,接下来我们来看一下运算。和十进制数一样,四则运算同样也可以使用在二进制数中,只要注意逢2进位即可。下面,我们就来重点看一下二进制数所特有的运算......
  • 2.6掌握逻辑运算的窍门
    将二进制数表示的信息作为四则运算的数值来处理就是算术。而像图形模式那样,将数值处理为单纯的0和1的罗列就是逻辑。计算机能处理的运算,大体可分为算术运算和逻辑运算。算......
  • 计算机进行小数运算时出错的原因——3.1将0.1累加100次也得不到10
    首先,我们来看一个计算机运算错误(无法得到正确结果)的例子。下图是将0.1累加100次,然后将结果输出到显示器上的C语言程序。运行过程是这样的:首先把0赋值给变量sum,然后在此......
  • Java instanceof运算符
    javainstanceof运算符用于测试指定对象是否是指定类型(类或子类或接口)的实例。java中的instanceof也称为类型比较运算符,因为它将类型与实例进行比较。它返回true或fal......
  • 矩阵的概念和矩阵的运算
    矩阵的概念m*n矩阵,m是行数,n是列数小写字母一般表示数,大写字母一般表示矩阵单位矩阵指主对角线数字全为1,其他位置数字全为0的矩阵,一般用E或I表示    矩阵......
  • python基础:数据类型、与用户交互、格式化输出、基本运算符号、常用赋值符号、逻辑运算
    目录一、数据类型1、数据类型之布尔值:bool2、数据类型之元组:tuple列表和元组的区别3、数据类型之集合:set二、与用户交互1、获取用户输入2、输出内部信息扩展:python2与pyth......
  • 剑指offer——Day22 位运算(中等)
    Day222023.2.4位运算(中等)剑指offer56-Ⅰ.数组中数字出现的次数自己实现就直接结合set进行遍历,然后出现重复就从set里面删除掉,最后就能得到只包含出现过一次的set......
  • C语言学习 指针的运算和比较
    1#include<stdio.h>2#include<io_utils.h>34intmain(){5{6inta=2;7int*p=&a;89PRINT_INT(p+1);10PRINT_INT(......
  • 费解的开关(位运算+递推)
    题目描述:你玩过“拉灯”游戏吗?25盏灯排成一个5x5的方形。每一个灯都有一个开关,游戏者可以改变它的状态。每一步,游戏者可以改变某一个灯的状态。游戏者改变一个灯的状态会产......
  • 运算符重载
    基本概念:重载的运算符是具有特殊名字的函数:它们的名字由关键字operator和其后面要定义的运算符号共同组成。同其他函数一样,重载的运算符函数也包含返回类型、参数列表以......