首页 > 其他分享 >第三章 计算机在计算小数时会出错的原因

第三章 计算机在计算小数时会出错的原因

时间:2024-02-20 20:34:07浏览次数:30  
标签:第三章 计算机 二进制 出错 计算 我们 小数

我们习惯性认为计算机在计算是不会出错,可事实并非如此。本章节第1节举出了一个例子“将0.1累加100次的结果不是10”。C语言程序结果得出10.000002。但出现这种去看并不是计算机故障或者程序编写错误的原因。想了解为什么出现错误,就要做到计算机是如何处理小数的。第2节告诉我们如何用二进制表示小数,如下图所示:


在计算机中,小数并不是像我们日常使用的十进制那样直接表示的,而是被转换成了二进制形式。然而,并非所有的小数都能被精确地转换为二进制数,这就导致了计算机在处理某些小数时会出现误差。这种误差可能非常微小,但在某些情况下,它可能会累积并导致显著的计算错误。那如何避免计算机计算出错呢?第7节给出了两种方法:1.回避策略,也就是忽略错误。因为根据程序的用途,有时候计算结果的微小误差并不会产生实际的问题。2.用整数代替小数进行计算。我们可以在计算时临时使用整数,然后将计算结果用小数表示。
此外这一章告诉我们什么是浮点数。浮点数将小数分为符号、尾数、基数和指数4个部分来表示。如图所示:

总的来说,《程序是怎样跑起来的》的第三章为我们揭示了计算机在计算小数时可能出错的原因和机制。这不仅增加了我们对计算机科学的理解,也提醒我们在编程时要时刻关注潜在的计算误差。我相信,这些知识将对我未来的编程实践产生深远的影响。

标签:第三章,计算机,二进制,出错,计算,我们,小数
From: https://www.cnblogs.com/wuboke/p/18023988

相关文章

  • 《系统科学方法概论》第三章
    在这一章中,常绍舜介绍了系统科学的基本理论与方法。他首先介绍了系统论的基本原理,如系统辨识、系统建模、系统分析等。然后,作者详细阐述了系统科学的基本方法,如系统仿真、系统优化、系统控制等。他指出,系统科学的基本方法能够帮助我们分析和解决复杂问题,优化系统的性能,并实现系统......
  • 《程序是怎样跑起来的》第三章读后感
    《程序是怎样跑起来的》第三章的内容是关于计算机进行小数运算时出错的原因。计算机运算出错的原因是有一些十进制的小数无法转换成二进制数。例如,十进制数0.1,就无法用二进制数正确表示,小数点后面即使有几百位也无法表示。什么是浮点数呢?很多编程语言中都提供了两种表示小数的数......
  • 系统科学方法概论第三章读后感
    信息方法是一种研究方法,它运用信息的概念,将系统的运动过程看作是信息的传递和转换过程。这种方法完全撇开系统的具体运动形式,而是关注系统如何通过获取、传递、运用和存储信息来实现其目的。信息方法的特点是以信息为基础,从信息的整个流程进行综合考察,以获得对系统的整体性认识。......
  • Sunnyui画曲线溢出错误
    之前用sunnyui做展示数据库数据曲线的时候、偶然会报溢出错误,也不报错错误在哪,就是直接程序都跑不动了。后面发现设置曲线上下限的时候,当上下限一样的时候就会导致溢出错误、sunnyui的曲线也没有对其抛出异常对其maxTime和minTime进行数据处理就能解决这个问题了曲线就可以......
  • 第三章读后感
    在阅读了《程序是怎样跑起来的》第三章后,我对计算机进行小数运算时出错的原因有了新得理解。首先,我了解到计算机在进行小数运算时采用的是二进制表示法。这意味着小数点后的位数是无限的,而在实际存储和计算中,计算机只能使用有限的位数来表示小数。这种有限位数的表示方法会导致一......
  • 《程序是怎样跑起来的》第三章读后感
    在阅读《程序是怎样跑起来的》第三章之后,我对于计算机程序的运行机制有了更深入的理解。这一章主要介绍了程序的执行过程,包括指令的读取、解释和执行,以及数据在内存中的存储和处理。通过这些内容,我不仅了解到了程序背后的复杂性,也对计算机科学产生了更浓厚的兴趣。首先,我对于程序......
  • 《程序是怎样跑起来的》第三章读后感
    在此书第二章中,主要讲到了数据用二进制的表示方法,但只讲的是整数,而第三章讲到的则是小数用二进制的表示方法。如图,我是这样理解的,在一组数据中,十进制转换二进制,拿位权来讲,小数点前第n位,是2的n-1次幂(n≥1),而小数点后的转换则稍微不同,小数点后第n位,是2的-n次幂(n≥1)。出现数据有小数......
  • 《程序是怎样跑起来的》第三章:计算机进行小数运算时出错的原因
    在当今的数字时代,计算机已经深入到我们生活的方方面面。从简单的计算器到复杂的科学模拟,再到无所不在的智能手机,计算机已经成为了我们生活中不可或缺的一部分。然而,你是否曾经想过,这些看似神奇的机器,它们是如何处理那些看似微不足道的运算,比如小数的计算呢?在《程序是怎老¥细批坦元......
  • 《程序是怎样跑起来的》第三章读后感
    《程序是怎样跑起来的》第三章主要介绍了计算机进行小数运算时出错的原因,以及避免计算机在计算小数时出现错误的方法。计算机在进行小数运算时可能会出现错误,主要原因是有些十进制的小数无法转换成二进制数。例如,将十进制数0.1转换成二进制后,会变成0.00011001100这样的循环小数,在......
  • 程序是怎么跑起来的第三章观后感
    计算机之所以叫"计算"机就是因为发明它主要是用来计算的,"计算"当然是它的特长,在大家的印象中,计算一定是非常准确的。但实际上,即使在一些非常基本的小数运算中,计算的结果也是不精确的。实际上,不是运算本身会出错,而是计算机根本就不能精确的表示很多数。比如0.1这个数,计算机是用一......