首页 > 其他分享 >计算机计算浮点数出现的误差

计算机计算浮点数出现的误差

时间:2023-06-21 10:24:35浏览次数:45  
标签:0.9 误差 计算机 0.1 浮点数 有效数字 十进制

for i in range(20):
    print(f" 0.1 * {i} = {0.1 * i}")

 

 0.1 * 0 = 0.0
 0.1 * 1 = 0.1
 0.1 * 2 = 0.2
 0.1 * 3 = 0.30000000000000004
 0.1 * 4 = 0.4
 0.1 * 5 = 0.5
 0.1 * 6 = 0.6000000000000001
 0.1 * 7 = 0.7000000000000001
 0.1 * 8 = 0.8
 0.1 * 9 = 0.9
 0.1 * 10 = 1.0
 0.1 * 11 = 1.1
 0.1 * 12 = 1.2000000000000002
 0.1 * 13 = 1.3
 0.1 * 14 = 1.4000000000000001
 0.1 * 15 = 1.5
 0.1 * 16 = 1.6
 0.1 * 17 = 1.7000000000000002
 0.1 * 18 = 1.8
 0.1 * 19 = 1.9000000000000001

 浮点数的误差的产生一般由于两个原因

1)计算机内部以二进制保存,十进制的有限位的小数,在计算机内部会是一个无限位的小数。
例如 十进制的0.9虽然只有一位小数,转成2进制是无限循环小数0.1110011001100110011...
2)计算机保存浮点数的精度有限,例如float可以保留十进制最多7位(二进制23位)有效数字,double 可以保留十进制15~16位(二进制52位)有效数字。那有效数字以后的就被忽略了。
例如上面的0.9的表示受精度所限,精度以后的就被忽略了,这样
float时,它是0.89999998
double时,它是0.90000000000000002

标签:0.9,误差,计算机,0.1,浮点数,有效数字,十进制
From: https://www.cnblogs.com/sangern/p/17495543.html

相关文章

  • 交叉验证误差
    交叉验证误差是指在交叉验证过程中,模型在验证数据集上的预测误差。交叉验证是一种常用的模型评估方法,它将数据集分成若干份,每次使用其中一份作为验证数据集,其余部分作为训练数据集来训练模型。然后使用训练好的模型在验证数据集上进行预测,并计算预测误差。这个过程会重复多次,......
  • 期望误差和经验误差的关系——期望误差上界
    机器学习希望最小化模型的期望(泛化)误差$L$,即模型在整个数据分布上的平均误差。然而我们只能在训练集上最小化经验误差$\hat{L}$,我们期望通过最小化经验误差来最小化泛化误差。但是训练数据和数据真实分布之间是有差异的,又根据奥卡姆剃刀原理,在训练误差相同的情况下,模型复杂度......
  • 【计算机网络教程】数据链路层
    数据链路层知识点思维导图汇总如下:......
  • 【计算机网络教程】重点汇总
    计网重点汇总文章目录计网重点汇总1.各层重点及协议汇总1.1物理层1.1.1常见编码1.1.2信噪比1.1.3码分复用(CDM)1.2数据链路层1.2.1差错检验(CRC)1.2.2载波监听多址接入/碰撞检验(CSMA/CD)1.2.3点对点协议(PPP)1.3网络层1.3.1网际协议(IP)1.3.2地址解析协议(ARP)1.3.3内部网关协议......
  • 【计算机算法设计与分析】最优子结构和贪心选择性质的证明
    最优子结构性质(反证法)计算某问题的最优解包含的计算该问题的子问题也是最优解。事实上,如果找到子问题的更优解,则可以替换当前子问题的解,得到一个比最优解更优的解,这是一个矛盾。贪心选择性质(数学归纳法)先设一个最优解(为所给定的总元素集合,且和均按照某种有利于算法贪心进行的顺序......
  • 【计算机算法设计与分析】线性时间选择(C++_分治递归)
    问题描述给定线性序集中n个元素和一个整数k,1≤k≤n,要求找出这n个元素中第k小的元素。思路线性时间选择有两种方法:(1)随机选择快排的标准元素。(2)将集合分为n个由五个元素组成的集合,对每个五元素集合求其中位数,再对所有的五元素集合的中位数求其中位数,作为快排的标准元素。CodeV-1(Ran......
  • 【计算机算法设计与分析】6-5 最小重量机器设计问题(C++_回溯法/分支限界法)
    问题描述设某一机器由n个部件组成,每一种部件都可以从m个不同的供应商处购得。设wij是从供应商j处购得的部件i的重量,cij是相应的价格。设计一个优先队列式分支限界法,给出总价格不超过d的最小重量机器设计。对于给定的机器部件重量和机器部件价格,设计一个优先队列式分......
  • 计算机网络
    see关键词提示,回忆具体内容一、概述1.2因特网网络,互连网,因特网internet,InternetARPANET,NSFNET,ISPWWW基于ISP的多层次结构的互连网络因特网的标准化RFC管理机构(?)组成:边缘+核心1.3三种交换方式电路交换分组交换:发送方,交换节点,接收方报文交换易错:传输时延最......
  • 计算机网络名词解释-介绍篇
    network;网络;Anetworkisanintricatelyconnectedsystemofobjects,devices,orpeople,网络是一个由对象、设备或人组成的错综复杂的系统。LAN;LocalAreaNetworks;局域网;是指在某一区域内由多台计算机互联成的计算机组。本文地址:https://www.cnblogs.com/kohler21/p/1......
  • 一些计算机基础知识的考试复习题
    2013Excel里用AND在开头连接多个条件。立即寻址访问速度最快。直接寻址方式下,操作数在内存中,指令中给出操作数的地址,需要再访问一次内存来得到操作数。立即寻址方式下,操作数在指令中,所以在取得指令时就得到操作数,是速度最快的。寄存器寻址方式下,操作数在CPU的寄存器......