首页 > 其他分享 >计算机的错误计算(二十四)

计算机的错误计算(二十四)

时间:2024-07-08 09:30:02浏览次数:9  
标签:计算精度 计算机 17 有效位数 错误计算 二十四 软件 Maple

摘要  计算机的错误计算(二十一)就案例 20^{65}-20^{65-0.1^{15}} 展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。

       对于 20^{65}-20^{65-0.1^{15}} 来说,正如计算机的错误计算(二十一)所述,双精度下,其输出为0. 容易想到,要获得有效数字,必须提高计算精度。

       下面展示在数学软件 Maple 中的计算过程。

       Maple 初始的默认位数是10位。从上可知,直到有效位数增加到 17位,才获得有效数字。但是,不知大家注意到没有?17位有效位数下,只显示 3位数字“110”。从后面的结果知,四舍五入后应该是“111”。所以,首先,17位有效位数下只输出 3位数字,其次,输出的还不全对。

       您感觉如何?觉得难还是不难?以为只要增加精度就行?上面可是专业数学软件!

       最后,若您想验证 Maple 软件的结果,可以访问 ISReal 计算器, 可信计算icon-default.png?t=N7T8http://www.isrealsoft.cn/

标签:计算精度,计算机,17,有效位数,错误计算,二十四,软件,Maple
From: https://blog.csdn.net/zaim1/article/details/140231751

相关文章

  • python+flask计算机毕业设计高校学生实习信息管理(程序+开题+论文)
    本系统(程序+源码+数据库+调试部署+开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面。系统程序文件列表开题报告内容研究背景随着高等教育的普及与深化,高校学生实习已成为连接理论与实践、校园与社会的关键桥梁。然而,传统的实习信息管理方式往往依赖于纸质文档或简......
  • 《昇思25天学习打卡营第11天|计算机视觉-ResNet50迁移学习》
    学习内容:ResNet50迁移学习1.背景介绍1.1什么是迁移学习?在实际应用场景中,由于训练数据集不足,所以很少有人会从头开始训练整个网络。普遍的做法是,在一个非常大的基础数据集上训练得到一个预训练模型,然后使用该模型来初始化网络的权重参数或作为固定特征提取器应用于特定的......
  • 计算机网络之无线局域网
    1.无线局域网工作方式工作方式:每台PC机上有一个无线收发机(无线网卡),它能够向网络上的其他PC机发送和接受无线电信号。与有线以太网相似,无线局域网也是打包方式发送数据的。每块网卡都有一个永久的、唯一的ID号(地址),而数据包里包含:所要发送的数据,发送和接收地址等信息。  ......
  • 计算机网络之以太网
    上文内容:总线局域网以及冲突的解决方法1.以太网的起源1.1起源60年代末期,夏威夷大学NormanAbramson等研制ALOHA无线网络系统,实现Oahu岛上的主机和其它岛及船上的读卡机和终端通信; 出境信道+地址:主机到终端; 入境信道-终端到主机;200-1500毫微秒未收应答,随机重发;70......
  • Java计算机毕业设计美容机构管理系统(开题+源码+论文)
    本系统(程序+源码)带文档lw万字以上 文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容研究背景随着人们生活水平的提高和美容意识的增强,美容行业迎来了前所未有的发展机遇。然而,传统的美容机构管理模式往往存在效率低下、信息孤岛、顾客体验不佳......
  • Java计算机毕业设计酒店管理网站(开题+源码+论文)
    本系统(程序+源码)带文档lw万字以上 文末可获取一份本项目的java源码和数据库参考。系统程序文件列表开题报告内容研究背景随着旅游业的蓬勃发展,酒店行业作为旅游产业链中的关键环节,面临着日益激烈的市场竞争和多元化的客户需求。传统的酒店管理模式已难以满足现代顾客对于......
  • SpringBoot-校园疫情防控系统-93033(免费领源码+开发文档)可做计算机毕业设计JAVA、PHP
    springboot校园疫情防控系统摘 要信息化社会内需要与之针对性的信息获取途径,但是途径的扩展基本上为人们所努力的方向,由于站在的角度存在偏差,人们经常能够获得不同类型信息,这也是技术最为难以攻克的课题。针对校园疫情防控等问题,对校园疫情防控进行研究分析,然后开发设计出......
  • 基于Django+微信小程序的旅游资源信息管理系统(免费领源码+数据库)可做计算机毕业设计JA
    django广西-东盟旅游资源信息管理系统小程序摘 要在社会快速发展和人们生活水平提高的影响下,旅游产业蓬勃发展,旅游形式也变得多样化,使旅游资源信息的管理变得比过去更加困难。依照这一现实为基础,设计一个快捷而又方便的基于小程序的旅游资源信息管理系统是一项十分重要并且......
  • PHP留守儿童关爱之家网站-计算机毕业设计源码11079
    目录1绪论1.1研究背景1.2研究意义1.3 论文结构与章节安排2 留守儿童关爱之家网站系统分析2.1可行性分析2.2系统功能分析2.3 系统用例分析2.4系统流程和逻辑2.5本章小结3留守儿童关爱之家网站总体设计3.1系统结构设计3.2系统功能模块设计3......
  • 备考计算机二级Python之Day3
    一、数字类型(1)整数类型一般认为整数类型没有取值范围限制。整数类型有4种进制表示:十进制、二进制、八进制和十六进制进制种类引导符号十进制无二进制0b或0B八进制0o或0O十六进制0x或0X程序无论采用何种进制表达数据,计算机内部都可以以相同的二进制格式存储数值,但为了易于......