首页 > 其他分享 >【JS基础】关于JS能表示的最大精度的问题

【JS基础】关于JS能表示的最大精度的问题

时间:2022-11-04 03:22:28浏览次数:81  
标签:表示 Number 52 关于 253 JS 精度

看了好多文章,我还是比较认可这位博主的说法:

https://www.codercto.com/a/107226.html

本文只是自己做记录,是篇水文,大家可以直接访问上面链接哦~

根据 IEEE 754 标准,有

 

JS能表示的最大精度应该是(253 - 1)即9007199254740991也即Number.MAX_SAFE_INTEGER

JS能表示的最大正整数是21023 * [(253 - 1) * 2-52]即 1.7976931348623157e+308也即Number.MAX_VALUE

1、- 52是怎么来的?

因为科学计数法,整数位一定是一位,所以要右移52位

2、公式中E的范围怎么来的?

根据标准中的双精度存储规则,会有64个比特位存储Number,首位表示正负数,中间11位表示指数,那么可表示的数应该是[0, 2047],但是首尾两个数会有特殊用途(咱也不知道用来干嘛的,也没地方问)

 

 3、F的范围怎么来的?

如果是十进制的科学计数,那么精度部分的整数范围一定是[1, 9],那么二进制的精度的整数部分只能是1了,所以我们52位全部用来表示小数部分,所以F的最大值就是1.1...1(包括整数部分一个53个1),即(253-1) * 2-52

 

以上,欢迎批评指正,大家一起学习啊

标签:表示,Number,52,关于,253,JS,精度
From: https://www.cnblogs.com/abby-lrwei/p/16856433.html

相关文章

  • JS(二)
    1.DOM1.1改变HTMLHTMLDOM允许JavaScript改变HTML元素的内容。可用于直接向HTML输出流写内容。document.getElementById("").innerHTML=新的HTML用于修改变......
  • 用Nodejs 实现一个简单的 Redis客户端
    目录0.写在前面1.背景映入2.数据库选择3.NodejsTCP连接3.代码编写4.实验5.wireshark抓包分析6.杂与代码0.写在前面大家如果有去看过nodejs所支持的官方库的......
  • nodejs 密码加密
    1.新建了一个setPassword.js文件constcrypto=require("crypto");///导入加密模块functionsetPassword(pwd){letpassword=`${pwd}xxx`//加入一段特定字符......
  • 关于我家的五台主机的升级计划
    关于我家的五台主机的升级计划前言我家有五台主机,目前有三台在使用,有两台闲置,碰巧现在双12,想看能不能升级一波。首先是收集目前的情况,然后就是分析,最后就是归纳总结。文章目......
  • 关于用电脑主机代替XSX的事2021年12月19日写
    关于用电脑主机代替XSX的事前言上个月买了台小米电视86,觉得光看电视不爽,想玩点游戏,于是了解了一下主机游戏。现在主流游戏主机主要有PS5和XSX,Switch没算。但是游戏主机只能......
  • JS中的pipe原理
    学习reduce()时遇到一个练习“功能型函数管道”,对于代码中的pipe不能理解,类似于下面这一行代码,信息量很丰富,有es6中的扩展运算符,箭头函数,reduce()方法。constpipe=(........
  • js基础01
    ExerciseTest01严格检查模式strict'usestrict';//预防js的随意性导致产生的一些问题,必须放在第一行leti=1;//局部变量建议都用let定义数据类型数......
  • 解决本地浏览器运行项目时的跨域问题-Access to XMLHttpRequest at ‘file:///D:/WebP
     解决本地浏览器运行项目时的跨域问题-AccesstoXMLHttpRequestat'file:///D:/WebPracties/xxxxxx/data/funData.json问题描述解决办法一解决办法二解决方法三问题描......
  • 关于VCSA-Vcenter-个人账号的创建过程
    最近因需要在vCSA,即vCenterServerAppliance上为同事创建一个账号,于是记录过程如下:1、还是先登录,然后选择左上角【菜单】下的【系统管理】2、然后在SingleSignOn下可......
  • Controller输出JSON数据 乱码解决方案
    ​我们可以在springmvc的配置文件上添加一段消息StringHttpMessageConverter转换配置!<mvc:annotation-driven><mvc:message-convertersregister-defaults="true">......