首页 > 其他分享 >博客3

博客3

时间:2024-02-22 17:27:17浏览次数:23  
标签:运算 二进制 浮点数 博客 无法 小数 计算机

在第三章中主要讲述了计算机进行小数运算时出错的原因,大家可能会认为“万能的计算机是不会出现计算错误的”。但实际上,依然存在程序运行后无法得到正确数值的情况。其中,小数运算就是一个典型的例子。在本章中我们首先了解了将二进制表示的小数转换成十进制的方法,这样便于理解计算机运算出错的原因,计算机之所以会出现运算错误,是因为“有一些十进制数的小数无法转换成二进制数”。例如,十进制数0.1,就无法用二进制数正确表示,小数点后面即使有几百位也无法表示。在计算机进行小数运算时无法正确表示的数值,最后都变成了近似值。计算机这个功能有限的机器设备,是无法处理无限循环的小数的。因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五人。我们知道,将0.3333...这样的循环小数从中间截断会变成0.333333,这时它的3倍是无法得出1的(结果是
0.999999),计算机运算出错的原因也是同样的道理。因为计算机内部使用的是二进制数,所以基数自然就是2。因此,实际的数据中往往不考虑基数,只用符号、尾数、指数这三部分即可表示浮点数。也就是说,64位(双精度浮点数)和32 位(单精度浮点数)的数据,会被分为三部分来使用。那么我们如何避免计算机在计算小数时出现错误呢?1根据程序目的不同,无视错误2把小数转化成整数计算,采用BCD方法

标签:运算,二进制,浮点数,博客,无法,小数,计算机
From: https://www.cnblogs.com/liangwenbo0505/p/18027760

相关文章

  • 博客4
    读完第四章后,我对程序运行时所需的内存管理有了更深的了解。这一章节详细阐述了内存的基本工作原理,包括内存IC的结构、地址信号的作用、数据信号的处理以及控制信号的功能。此外,我还学习了如何通过编程语言中的数据类型来表示存储在内存中的数据,并理解了内存中的字节计数与程序中......
  • 博客5
    在第五章中主要讲述了内存和磁盘的关系并从都具有存储程序命令和数据这点来看,内存和磁盘的功能是相同的。在计算机的5大部件"中,内存和磁盘也都被归类为存储部件。不过,利用电流来实现存储的内存,同利用磁效应来实现存储的磁盘,还是有差异的。而从存储容量来看,内存是高速高价,而磁盘则......
  • 博客6
    读完《程序是怎样跑起来的》第六章之后,我深感编程和计算机科学是一个极其广泛且深入的领域。在这一章节中,我们学习了关于文件的压缩技术,包括文件的基本概念、字节单位的定义、文件大小的单位表示方式、文件内容的压缩方法等内容。这些知识点不仅帮助我们理解计算机如何处理和管理......
  • 博客7
    操作系统和硬件决定了程序的运行环境。同一类型的硬件可以选择安装多种操作系统。例如,同样的在兼容机一个中,既可以安装窗户,也可以安装Linux目录B等操作系统。从程序的运行环境这一角度来考量硬件时,中央处理器的种类是特别重要的参数。为了保证办公室2007的正常运行,需要具备......
  • 博客8
    计算机只能运行本地代码,程序员键入的源代码,计算机无法直接识别运行。编译器负责转换源代码,每个编写源代码的编程语言,都需要其专用的编译器。编译器首先读入代码的内容,再把源代码转换成本地代码。根据cpu类型的不同,本地代码的类型也不同.仅靠编译是无法得到可执行文件的,编译之后......
  • 博客10
    第十章,为我们讲述了通过汇编语言来解析程序结构的方法。首先,我们知道了汇编语言与本地代码是一一对应的,把汇编语言转换为本地代码,就好像数学中三角函数中的度数和值一样。我感觉十章好像前面的汇总,在前面我们也看到函数的调用机制,在这函数的名称是函数的内存地址,这个使我是惊讶的......
  • 【查询类博客】快查
    LaTeX公式插入方式行内公式$f(x)=a+b$$f(x)=a+b$行间公式$$f(x)=a+b$$$$f(x)=a+b$$手动编号$$f(x)=a-b\tag{1.1}$$$$f(x)=a-b\tag{1.1}$$空格名称语法预览说明两个quad空格a\qquadb\(a\qquadb\)两个m的宽度quad空格a......
  • 很久没有写博客了
    自从2019年找完工作后,至今已经有近5年时间了,期间没有换工作,也没有做过技术总结,匆匆5年~ 今年开始,还是坚持写写博客,总结总结自己工作中遇到的问题和生活中的一些感悟,留下一些岁月的痕迹。 今年开始打算换份工作,由于这几年精力有些分散,对于工作的关注度不够高和职业发展的路径......
  • 使用油猴插件,修改和简化美化博客园的随笔编辑界面
    包含内容开局自动打开实时预览编辑区域高度放大左侧菜单栏区域缩小下方菜单栏隐藏,点击恢复可再现待续//==UserScript==//@name博客园修改//@namespacehttp://tampermonkey.net///@version2024-02-20//@descriptiontrytotakeover......
  • 技术大牛都有自己的博客
    刘未鹏刘未鹏|MindHacks《暗时间》作者陈皓:https://coolshell.cn/MegaEase创始人阮一峰:RuanYiFeng'sPersonalWebsite计算机科普博主鸟哥:风雪之隅-Laruence的博客PHP开发组核心成员尤雨溪:EvanYouvue.js项目作者云风的BLOG云风的BLOG前网易游戏主力开发廖......