首页 > 其他分享 >3.3计算机运算出错的原因

3.3计算机运算出错的原因

时间:2023-02-09 20:44:07浏览次数:49  
标签:运算 计算机 二进制 数值 出错 3.3 小数

      计算机之所以会出现运算错误,是因为“有一些十进制数的小数无法转换成二进制数”。图3-2中,小数点后4位用二进制数表示时的数值范围为0.0000~0.1111。因此,这里只能表示0.5、0.25、0.125、0.0625这四个二进制数小数点后面的位权组合而成(相加总和)的小数。将这些数值组合后能够表示的数值,即为表3-1中所示的无序的十进制数。

 

        用代码清单3-1的程序无法得到正确结果。因为无法正确表示的数值,最后变成了近似值。计算机这个功能有限的机器设备,无法处理无限循环的小数,因此在遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五入。计算机运算出错的原因也是同样的道理。

标签:运算,计算机,二进制,数值,出错,3.3,小数
From: https://www.cnblogs.com/24koi/p/17106987.html

相关文章

  • 第一阶段第四章运算符
    第四章 算数运算符  运算代码:publicclassArithmeticOperators{ publicstaticvoidmain(String[]args){ inti=10/4;//数学中得2.5java中得2 doubled......
  • 运算符与JavaDoc
    运算符Java语言支持如下运算符:算术运算符:+,-,,/,%,++,--short和byte运算会转化为int%:取余、模运算a%b++--:自增,自减(一元运算)inta=3;......
  • KubeSphere 3.3.2 版本正式发布!
    距离上一个版本v3.3.1发布,已经过了3个多月,今天我们很高兴宣布KubeSpherev3.3.2正式发布!此版本由68位贡献者参与代码提交,感谢各位贡献者对KubeSphere项目的支持与......
  • KubeSphere 3.3.2 版本正式发布!
    距离上一个版本v3.3.1发布,已经过了3个多月,今天我们很高兴宣布KubeSpherev3.3.2正式发布!此版本由68位贡献者参与代码提交,感谢各位贡献者对KubeSphere项目的支持......
  • Java基础知识点(键盘录入、算术运算符、类型转换)
    一:键盘录入Java帮我们写好一个类叫Scanner,这个类这个类就可以接收键盘输入的内容步骤一:导包——Scanner这个类在哪(导包必须出现在类定义的上面)importjava.util.Scanner;步......
  • 2.3移位运算和乘除运算的关系
       和十进制数一样,四则运算同样也可以使用在二进制数中,只要注意逢2进位即可。   移位运算指的是将二进制数值的各数位进行左右移位(shif=移位)的运算。移位有......
  • 运算符
    运算符Java语言支持如下运算符:算数运算符:+,-,*,/,%,++,--赋值运算符:=关系运算符:>,<,>=,<=,==,!=,instanceof逻辑运算符:&&,||,!位运算符:&,|,^,~,>>,<<,>>>条件运算符:?:扩展运算符:+=,-=,*=......
  • 使用BigDecimal进行运算
    packagecom.demo;/***Createdby莫文龙on2018/3/28.*/importjava.math.BigDecimal;publicclassDemo10{publicstaticvoidmain(String[]args){//......
  • JS新运算符 ?. ?? ??= ||= &&= 的含义及用法
    ?.可选链操作符可选链允许读取连接对象链深处的属性值而不必明确验证链中每个引用是否有效。该表达式短路返回值语法:obj?.propobj?.[expr]arr?.[index]func......
  • C语言中的运算符
    ......