首页 > 编程语言 >JavaScript二进制浮点数和四舍五入错误

JavaScript二进制浮点数和四舍五入错误

时间:2024-09-22 15:55:31浏览次数:3  
标签:四舍五入 二进制 浮点数 JavaScript write var document

二进制浮点数和四舍五入错误

实数有无数个,但JS通过浮点数的形式,只能表示有限个数,JS表现的常常是真实值的近似表示。

二进制无法表示类似于0.1这样的十进制数字,只能机器近似于0.1,看如下代码:

<!DOCTYPE html>
<html>
    <head>
        <meta charset="utf-8">
        <title>3.1.4 二进制浮点数和四舍五入错误</title>
    </head>
    <body>
        <h1>3.1.4 二进制浮点数和四舍五入错误</h1>
        <script>
            var x=.3-.2;
            document.write("var x=.3-.2;<br>");
            var y=.2-.1;
            document.write("var y=.2-.1;<br>");
            document.write("x,y:"+x+","+y+"<br>");
            document.write("x==y:"+(x==y)+"<br>");
            document.write("x==.1:"+(x==.1)+"<br>");
            document.write("y==.1:"+(y==.1)+"<br>");
        </script>
    </body>
</html>
 页面效果:

 以上x,y值非常接近,计算结果胜任大多数的计算任务,只有比较两个值是否相等的时候才会出现。

标签:四舍五入,二进制,浮点数,JavaScript,write,var,document
From: https://blog.csdn.net/qq_36324341/article/details/142438354

相关文章

  • JavaScript中的Math对象详解
    JS中的算术运算基本运算:加减乘除求余数,+-*/%.复杂运算:通过Math对象的属性定义的函数和常量来实现。代码实现:<!DOCTYPEhtml><html><head><metacharset="utf-8"><title>3.1.3JS中的算术运算</title></head><body>......
  • 关于​​Vue学习笔记6中纯JavaScript实现的改进优化1
    0前言在 Vue学习笔记6:分别使用纯JavaScript和Vue的v-if指令来有条件地渲染网页元素_PurpleEndurer@5lcto的技术博客_51CTO博客的纯JavaScript实现有条件地渲染网页元素中,我们列举了苹果、桔子和葡萄3种水果,并使用3个<p>...</p>来对应,在实现显示用户选择的水果的showFruit函数中,......
  • 大学生HTML期末大作业——HTML+CSS+JavaScript培训机构(画室)
    HTML+CSS+JS【培训机构】网页设计期末课程大作业web前端开发技术web课程设计网页规划与设计......
  • JavaScript数据类型转换 字符串
    类型转换数据类型的转换有两种方式,一种是在运算等处理过程中自动转换,另一种是显式的转换。字符串类型转换除了在处理过程中的隐式转换,可以使用String(Value)函数进行转换。例子1:letval1=true;letval2=false;letval3=null;letval4=99;letval5=798.125; console.log(......
  • 阅读周·你不知道的JavaScript | 行为委托,搞懂对象之间的关系
    背景去年下半年,我在微信书架里加入了许多技术书籍,各种类别的都有,断断续续的读了一部分。没有计划的阅读,收效甚微。新年伊始,我准备尝试一下其他方式,比如阅读周。每月抽出1~2个非连续周,完整阅读一本书籍。这个“玩法”虽然常见且板正,但是有效,已经坚持阅读两个月。《你不知道的JavaScr......
  • JavaScript(二)
    二、js语法2.5JSON2.5.1JSON简介JavaScriptObjectNotation,简称JSON。中文含义为“JavaScript对象表示法”。JSON是一种轻量级的数据交换格式,通常用于存储和网络传输。另外一个数据交换格式是XML。JSON的本质是字符串文本。是独立的语言,易于理解,因此被任何......
  • 如何使用 Javascript 确定二叉树是否相同
    介绍这里相同意味着结构和值都处于相同的位置。为了实现这一点,我们需要使用dfs算法,这样它也会检查深度。使用bfs算法无法实现这一点。所以这里我使用有序遍历来得到结果classNode{constructor(data){this.left=null;this.right=null;t......
  • 在 C# 和 JavaScript 之间选择进行网页抓取
    简单了解C#和JavaScript网页抓取的区别C#作为编译型语言,提供了丰富的库和框架,如HtmlAgilityPack、HttpClient等,方便实现复杂的网页爬取逻辑,并且代码简洁高效,具有较强的调试和错误处理能力能力。同时C#具有良好的跨平台支持,适用于多种操作系统。不过C#的学习曲线可能比较陡峭,需要一......
  • 在 JavaScript 中使用最小和最大堆管理流数据:数字运动员健康技术视角
    数据管理在健康技术中至关重要。无论是跟踪运动员的表现指标还是监控运动员的恢复时间,有效地组织数据都可以对洞察的获取方式产生重大影响。在这种情况下管理数据的一种强大工具是堆,特别是最小堆和最大堆。在这篇文章中,我们将使用与运动员数据管理相关的实际示例,探索如何在javasc......
  • 在 JavaScript 中掌握日期
    今天的重点是理解和操作javascript中的日期。日期是许多应用程序的一个基本方面,javascript提供了一组强大的工具来处理它们。1.理解javascript日期javascript日期是从1970年1月1日开始计算的,这被称为unix纪元。自那时起,它们通常以毫秒表示。以下是创建和查看......