首页 > 其他分享 >js 0.07*100竟然是7.000000000000001

js 0.07*100竟然是7.000000000000001

时间:2023-06-12 17:48:33浏览次数:43  
标签:存储 754 0.07 7.000000000000001 100 IEEE

无意中发现了一个问题:0.07*100=7.000000000000001,而不是7。

 结果为什么是7.0000000000000001? 

其实JavsScript中,变量在存储时并不区分number和float类型,而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number,按照IEEE 754的定义: http://en.wikipedia.org/wiki/IEEE_754-2008 decimal64对应的整形部分长度为10,小数部分长度为16,所以默认的计算结果为“7.0000000000000001”,如最后一个小数为0,则取1作为有效数字标志。类似地,可以想像,1/3的结果应该是0.3333333333333333。

所以说可以先判断存取数字的类型(简便方法:typeof 变量值)

 那么如何校正这个值呢?可以用以下方法:

一、parseInt           var r4=parseInt(i*100);         
二、Math.round         var r2=Math.round((i*100)*1000)/1000;  

来源:https://blog.csdn.net/weixin_42246997/article/details/103717718

 

标签:存储,754,0.07,7.000000000000001,100,IEEE
From: https://www.cnblogs.com/kpengfang/p/17475661.html

相关文章

  • ASEMI代理艾赛斯MOS管IXFH4N100Q,IXFH4N100Q参数
    编辑-ZIXFH4N100Q参数描述:型号:IXFH4N100QVDSS:1000VVDGR:1000VVGS:±20ID25:4AIDM:16APD:150WTJ,Tstg:-55to+150℃Weight:6gVGS(th):5VIGSS:±100nAIDSS:50uARDS(on):3ΩCiss:1050pFIS:4AISM:16AVSD:1.5VTrr:250ns  IXFH4N100Q特征:IXYS先进的低Qg工艺低栅极电荷和电容......
  • BestCoder Round #71 (div.2)1001KK's Steel
    题意:中文题思路:其实我们不去考虑N,我们只考虑最优切割策略:     首先肯定是尽量的小即1、2     既要不相等,又不能构成三角形,即每次为当前数列中最大的两项的和     那么,构成的数列为1,2,3,5,8,......     这样我们只要求最接近且小于等于N的......
  • 1009道面试题,想刷完,要多久?
    我的面试题网站,目前已更新到1009题了,今天对所有题目做一个汇总(后续还会继续优化,继续完善):Redis的数据类型有哪些?请简述一下JVM的内存模型说说堆和栈的区别说说你对CAP的理解你知道哪些分布式事务解决方案?什么是二阶段提交?什么是HTTP?HTTP的作用是什么?说说HTTP的优点和缺点什么是长......
  • 2023-06-11:redis中,如何在100个亿URL中快速判断某URL是否存在?
    2023-06-11:redis中,如何在100个亿URL中快速判断某URL是否存在?答案2023-06-11:传统数据结构的不足当然有人会想,我直接将网页URL存入数据库进行查找不就好了,或者建立一个哈希表进行查找不就OK了。当数据量小的时候,这么思考是对的,确实,将值映射到HashMap的Key,可以在O(1)的时间复杂度......
  • 基于XC7Z100+OV5640(DSP接口)YOLO人脸识别前向推理过程(部分3)
    基于ZYNQ的摄像头显示系统本文介绍了如何使用ZYNQ开发板、OV5640摄像头和HDMI显示器搭建一个摄像头显示系统本文的内容主要分为以下几个部分:硬件介绍Vivado工程创建Vitis工程创建实验结果展示硬件介绍ZYNQ开发板使用的是ZINC7100芯片,具有双核ARMCortex-A9处理器......
  • 1000道Python题库系列分享三(30道)
    上一期题目链接:1000道Python题库系列分享二(48道)上一题题目参考答案:2.1 312.2 'F'2.3 Python采用的是基于值得内存管理方式,在Python中可以为不同变量赋值为相同值,这个值在内存中只有一份,多个变量指向同一个内存地址;Python具有自动内存管理功能,会自动跟踪内存中所有的值,对于没......
  • 1000道Python题库系列分享四(40道)
    热烈庆祝2018年2月董付国老师《Python程序设计(第2版)》出版18个月第5次印刷,《Python可以这样学》出版12个月第5次印刷,系列教材《Python程序设计基础》、《Python程序设计开发宝典》、《中学生可以这样学Python》等出版两年半以来已累计印刷25次。上一期题目链接:1000道Python题库系列......
  • 1000道Python题库系列分享一(17道)
    本系列题目共约1000道,下一期题库分享时发布本期题目参考答案,可以在微信公众号菜单查看系列题目。1.1 到Python官方网站下载并安装Python解释器环境。1.2 到Anaconda官方网站下载并安装最新的Anaconda3开发环境。1.3 Python程序的__name__的作用是什么?1.4 Python安装扩展库......
  • 算法刷题记录:P4924 [1007]魔法少女小Scarlet
    题目链接https://www.luogu.com.cn/problem/P4924题目分析题意为将以[x,y]为中心某个矩阵,逆时针/顺时针旋转。所以其本质就是矩阵的旋转,所以找出通项公式即可。通项公式:顺时针:x后=x+y-y原,y后=y-x+x原逆时针:x后=x-y+y原,y后=x+y-x原AC代码//Problem:P4924[1007]魔法少......
  • 1000道Python题库系列分享21(11道编程题:内置函数专项练习)
    本期题目,答案在文末:参考代码:......