首页 > 其他分享 >第三章 计算机进行小数运算时出错的原因

第三章 计算机进行小数运算时出错的原因

时间:2023-02-13 11:48:45浏览次数:39  
标签:第三章 计算机 二进制 浮点数 尾数 出错 小数

本章讲述了计算机计算小数的原因,计算机是由浮点数来表示的,所有信息以二进制数的形式来处理。计算机之所以出现运行错误,是因为“有一些十进制数的小数无法转换成二进制数”。

浮点数是指用符号,尾数,基数和指数四部分来表示的小数。由于计算机使用的是二进制数,所以基数为二,所以往往将其省略。只用符号,指数和尾数。由于表示小数的数据类型不同,所以位数也不同。单进度浮点数为32位,其二进制数表示为符号位(1位)、指数位(8位)尾数位(23位);双进度浮点数为64位,其二进制表示为符号位(1位)、指数部分(11位)、尾数部分(52位)。而指数部分是用"EXCESS系统表现"来表示,尾数部分则是用“正则表达式”来表示。

如何避免计算机计算出错?第一,回避这些错误。第二,把小数转化成整数来计算,即0.1可以表示为1/10,一定不会出错。还有二进制数与16进制数,如果位数太多,用二进制表示太麻烦,所以采用16进制来代替二进制。而二进制的四位相当于16进制的一位整数部分从右至左划分,不够4位,需将最前面补零。小数部分,从左至右划分。不够四位需将后面补零。

标签:第三章,计算机,二进制,浮点数,尾数,出错,小数
From: https://www.cnblogs.com/Xia-ZXN/p/17115737.html

相关文章

  • 第三章 图论与搜索三
    最小生成树最小生成树:由n个节点,和n-1条边构成的无向连通图被称为G的一颗生成树,在G的所有生成树中,边的权值之和最小的生成树,被称为G的最小生成树。(换句话说就是用最小的代......
  • 第三章 图论与搜索二
    最短路问题常见的最短路问题可以分成两大类单源最短路多源汇最短路在最短路问题中,源点 也就是 起点,汇点 也就是 终点单源最短路单源最短路,指的是求一个点,到其......
  • 第三章 图论与搜索一
    普通DFS与BFS概述DFS:深度优先搜索(Depth-First-Search)BFS:宽度优先搜索(Breadth-First-Search)DFS和BFS的对比DFS使用栈(stack)来实现,BFS使用队列(queue)来实现DFS所需要......
  • 保留小数点相关问题
    一,保留两位小数常用的几种方法1,使用java.util.Formatter类publicstaticStringformat2(doublevalue){/**%.2f%表示小数点前任意位数2表......
  • 计算机体系结构第三章习题存档
    3Pipelining3.1 ASimpleImplementationofDLXBasicsteps:IF→ID→EX→MEM→WBReadPage3-3to3-5fordetails.3.2 TheBasicPipelineforDLXDuringMEM......
  • C语言填空:5个1位数组成最大数 最小数
    #include<stdio.h>//输入5个1-9之间的整数,输出能组成的最大值和最小值。main(){inta[5],i,j,temp,【1】;for(i=0;i<5;i++)scanf("%d",&a[i]);fo......
  • 相除 小数 内存利用率 告警
    1. 百分比#!/bin/basha=38b=99percent_1=$(printf"%d%%"$((a*100/b)))#或者percent_2=`awk'BEGIN{printf"%.1f%%\n",('$a'/'$b')*100}'`#保留1位小数,四舍......
  • 第三章:配置Apache虚拟主机
    配置基于IP地址的虚拟主机,第一个虚拟主机监听IP为192.168.100.10访问benet网站根目录,第二个虚拟主机监听IP地址为192.168.100.200访问accp网站根目录,使用​​http://192.168......
  • python的三种格式化输出方式、%f控制小数位数、将其他进制数转成十进制使用int函数、
    python中三种格式输出方式python的格式化输出有三种方式f-string、%、formatname=input()print('Iam{}andIamstudyingPythoninNowcoder!'.formt(name))na......
  • 《Terraform 101 从入门到实践》 第三章 Modules模块化
    《Terraform101从入门到实践》这本小册在南瓜慢说官方网站和GitHub两个地方同步更新,书中的示例代码也是放在GitHub上,方便大家参考查看。模块的概念模块化是Terrafor......