首页 > 其他分享 >为什么JS中 0.1 + 0.2 !== 0.3

为什么JS中 0.1 + 0.2 !== 0.3

时间:2022-10-19 02:33:19浏览次数:52  
标签:0011 0.1 0.3 0.2 二进制 1001

在计算机中,数据都是以二进制的形式进行存储的。js中的数值遵循 IEEE-754 标准,使用双精度浮点数来表示。

其中最高位为符号位 S ,接着是 11 位的指数位 E,最后剩余的 52 位有效数字为尾数位M。

0.1 转换为二进制为:0.0001 1001 1001 1001 ... ( 无限循环 )
0.2 转换为二进制为:0.0011 0011 0011 0011 ... ( 无限循环 )

因为精度有限,截取于第52位, 就会产生一个有误差的结果:0.1 + 0.2 = 0.30000000000000004

标签:0011,0.1,0.3,0.2,二进制,1001
From: https://www.cnblogs.com/bkzj/p/16804817.html

相关文章

  • 10.17
    今天AK了。正如题面中所写,这一场好像就是入门组模拟赛。过程开场先看A题,思考了20分钟,没有什么想法,于是跳过这道题,开始往后看。结果发现B很简单,就花5分钟切了,然后发现C也......
  • 2022.10.18 - 前端Vue项目部署文件上线
    在terminal终端连接Linux服务器mac通过scp特定端口上传文件到linux服务器命令:scp-r-P10017/Users/yehudalee/Desktop/多测/portal-ui/dist/*[email protected].......
  • 2022.10.18-代码大全-10月读后感1
    近期,我阅读了这本书的什么是软件构造这一部分。我了解到了开发计算机软件已是一个复杂的过程。已经认识到在软件开发中的各种不同的活动:定义问题、需求分析、规划构建、软......
  • 10.18小测(流量人数统计)
    题目要求:给出result.txt文件,导入到mysql中,清洗日期格式,统计视频流量,可视化展示。需要数据分析的内容:(1)统计最受欢迎的视频/文章的Top10访问次数(video/article)(2)按照地市......
  • 10.18
    [COCI2021-2022#4]Autobus题目描述在一个国家里有\(n\)座城市。这些城市由\(m\)条公交线路连接,其中第\(i\)条线路从城市\(a_i\)出发,到\(b_i\)停止,路程中耗时......
  • 2022.10.18 CSP2022 模拟赛五
    旅行路线Source:CF459E。憨憨题。按\(w\)排序后,考虑DP,设\(f_u\)表示目前在点\(u\),可以走出的最长路线。按阶段转移的时候稍微注意一下相同边权的处理,具体的,开一个......
  • 【闲话】2022.10.18
    今天中午是world.execute(me),好欸今天考试本来看完题之后就想着直接爆零得了一点思路都没有,真的要放弃了然后最后还是侥幸切了两道(我跟你说我T1结论是试出来的你......
  • ubuntu18安装redis后未开机启动Could not connect to Redis at 127.0.0.1:6379: Conne
    阿里云ubuntu18安装redis后,aptinstallredis-serverredis-cli提示CouldnotconnecttoRedisat127.0.0.1:6379:Connectionrefused最终发现是两方面导致:1.ubuntu18......
  • 10.18
    finalshell输入showdatabases;报错HiveExceptionjava.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient......
  • 10.18
    今日内容1.索引取值与迭代取值的差异2.模块简介3.模块的分类4.导入模块的两种句式5.导入模块的补充说明6.循环导入问题7.判断文件类型8.模块的查找顺序9.绝对导入......