首页 > 编程语言 >JavaScript数值计算时精度问题处理

JavaScript数值计算时精度问题处理

时间:2023-03-24 22:08:11浏览次数:37  
标签:const num1 Big JavaScript 数值 new console 精度 log

js精度问题

当使用 JavaScript 进行数值计算时,会面临一些精度问题,这些问题可能会导致不正确的结果。以下是一些常见的奇奇怪怪的 js 数据精度问题:

1. 浮点数精度问题

在 JS 中,浮点数的精度有限。例如:

0.1 + 0.2 // 结果为0.30000000000000004
23.327*100 // 结果为2332.7000000000003

这个结果显然不符合我们的期望。因为这是由于浮点数本身就无法表示 0.1 和 0.2 精确值。

解决方案:可以使用 toFixed 方法将其转换为字符串保留特定位数的小数,或者使用 Big.js 库中的 Big 对象。

2. 整数运算超出范围

在 JS 中,整数运算的范围为 -2^53 ~ 2^53。当运算结果超出该范围时,会发生奇怪的事情,例如:

Math.pow(2, 53) + 1 // 结果为9007199254740992

解决方案:可以使用 BigInt 类型进行更大范围的整数运算,但是要注意支持性不够广泛,需在浏览器和 Node.js 环境中提供额外的支持。

3. 数字类型转换问题

在 JS 中,数字类型之间的转换也可能会导致奇怪的问题。例如:

"10" > "9" // 结果为false

原因是在字符串比较中,比较的是字符编码而不是实际的数字大小。

解决方案:可以使用 parseInt 或者 parseFloat 将字符串转换为数字,或者使用 Number 函数将字符串强制类型转换为数字。

4. 小数点后多余的零

在 JS 中,将一个小数转换成字符串时,如果它没有小数部分,那么默认会添加 .0。例如:

String(1.0) // 结果为"1.0"

这种自动添加小数点可能会导致输出结果与预期不符。

解决方案:可以使用 Number.prototype.toFixed() 来保持一定的小数点位数,或者使用 Number.prototype.toPrecision() 来控制总位数。

Big.js

Big.js 是一个 JavaScript 的 “任意精度” 数字库,能够处理普通数字无法表示的大数字计算。这个库可以非常有用,例如在金融交易、密码学和科学计算中。

安装

Big.js 可以通过多种途径来安装:

  • npm 安装: npm install big.js
  • 下载源码包: https://github.com/MikeMcl/big.js/archive/v5.2.2.tar.gz
  • 在线 CDN 引入: <script src="https://cdn.jsdelivr.net/npm/[email protected]/big.min.js"></script> (这里使用了 jsDelivr CDN)

使用方法

在代码中引入 big.js:

const Big = require('big.js');

创建一个 Big 对象

const x = new Big(123.4567);
const y = Big(987654321.123456789);
const z = new Big('123456789012345678901234567890');

上述代码创建了三个 Big 对象。你可以将任何字符串、数字或其他 Big 对象传递给构造函数。请注意,只有字符串才能正确表示 0.1、0.01 等小数。我们可以用以下方式来打印这些对象的值:

console.log(x.toString()); // "123.4567"
console.log(y.toString()); // "987654321.123456789"
console.log(z.toString()); // "123456789012345678901234567890"

进行运算

Big.js 支持 +、-、*、/、mod、pow、sqrt 和 abs 操作。下面是代码示例:

const x = Big(123.4567);
const y = Big('987654321.123456789');

console.log(x.plus(y).toString());    // "987654444.580156789"
console.log(x.minus(y).toString());   // "-987654197.666756789"
console.log(x.times(y).toString());   // "121931366283.89509775303"
console.log(x.div(y).toString());     // "0.00012468606749151914"
console.log(x.mod(y).toString());     // "123.4567"
console.log(x.pow(3).toString());     // "18604128.120667185023"
console.log(x.sqrt().toString());     // "11.107774091203273684"
console.log(x.abs().toString());      // "123.4567"

设置运算精度

默认情况下,Big.js 将结果四舍五入到 20 位数字。但是你可以更改这个精度设置。这里提供了两种方式:

全局配置

在全局范围内,你可以通过 Big.RM 和 Big.DP 来更改默认设置。RP(Rounding Precision)指定了四舍五入的精度(默认为 20),而 DP(Decimal Places)指定了默认保留的小数位数。

Big.RM = 0; // 舍去模式(0 表示四舍五入)
Big.DP = 10; // 小数点后保留 10 位

局部配置

如果你不想全局更改设置,那么可以在每次操作时单独进行设置。以下是如何使用它们:

const x = new Big(1);
const y = new Big(3);

x.div(y);            // '0.33333333333333333333'
x.dp = 2;            // 将小数点后的位数设置为 2
x.div(y);            // '0.33'
x.round(1);          // 四舍五入至整数
x.div(y).toString(); // '0.3'

十六进制和二进制格式

当处理加密哈希等特殊数据类型时,十六进制和二进制格式的数字显得尤为重要。Luckily, Big.js 提供了相关方法。以下是相关代码示例:

创建一个 big.js 实例需要传入一个数字或字符串。下面是一个创建 big.js 实例的示例:

const num1 = new Big(123.4567);
const num2 = new Big("9876543210123456789");

加法

Big 对象可以使用 plus() 方法来进行加法操作,返回一个新的 Big 对象,不改变原有对象:

const num1 = new Big(1.23);
const num2 = new Big(4.56);

const result = num1.plus(num2); // 等价于 num1 + num2
console.log(result.toString()); // 5.79

减法

Big 对象可以使用 minus() 方法来进行减法操作,返回一个新的 Big 对象,不改变原有对象:

const num1 = new Big(1.23);
const num2 = new Big(4.56);

const result = num1.minus(num2); // 等价于 num1 - num2
console.log(result.toString()); // -3.33

乘法

Big 对象可以使用 times() 方法来进行乘法操作,返回一个新的 Big 对象,不改变原有对象:

const num1 = new Big(1.23);
const num2 = new Big(4.56);

const result = num1.times(num2); // 等价于 num1 * num2
console.log(result.toString()); // 5.6088

除法

Big 对象可以使用 div() 方法来进行除法操作,返回一个新的 Big 对象,不改变原有对象:

const num1 = new Big(1.23);
const num2 = new Big(4.56);

const result = num1.div(num2); // 等价于 num1 / num2
console.log(result.toString()); // 0.26973684210526315789

幂运算

Big 对象可以使用 pow() 方法来进行幂运算操作,返回一个新的 Big 对象,不改变原有对象:

const num1 = new Big(2);
const num2 = new Big(3);

const result = num1.pow(num2); // 等价于 num1 ** num2
console.log(result.toString()); // 8

比较

Big 对象可以使用 cmp() 方法来进行比较操作,返回一个负数、零或正数,分别表示小于、等于或大于。

const num1 = new Big(1.23);
const num2 = new Big(4.56);

console.log(num1.cmp(num2)); // -1
console.log(num2.cmp(num1)); // 1
console.log(num1.cmp(num1)); // 0

四舍五入和保留小数位数

Big 对象可以使用 toFixed() 方法来进行四舍五入和保留小数位数操作:

const num1 = new Big(1.23456789);

console.log(num1.toFixed(2)); // 1.23
console.log(num1.toFixed(5)); // 1.23457
console.log(num1.toFixed(10)); // 1.2345678900

在处理大数值时,使用 big.js 这样的高精度库可以避免 JavaScript 中 Number 类型的精度问题。

标签:const,num1,Big,JavaScript,数值,new,console,精度,log
From: https://blog.51cto.com/webgl/6145589

相关文章

  • JavaScript 函数
    什么是函数?类似于Java中的方法,是完成特定任务的代码语句块;特点使用更简单,不用定义属于某个类,直接调用执行;常用系统函数使用JavaScript编程时,函数是一种非常有用的编程结构,用......
  • JavaScript BOM
    Window对象的常用属性属性名称说明history有关客户访问过的URL的信息location有关当前URL的信息screen只读属性,包含客户端显示屏幕的信息语法:window.属性名="属性值";w......
  • JavaScript DOM
    DOM简介JavaScriptDOM是指JavaScript中的文档对象模型(DocumentObjectModel);它允许JavaScript与HTML页面交互,使开发者可以通过编程方式动态地修改网页内容和样式,以......
  • JavaScript 面向对象
    类和对象类是用于定义对象的模板或蓝图;它包含对象的属性和方法,我们可以使用class关键字来定义类。classPerson{constructor(name,age){this.name=name;t......
  • 【音视频】一文搞懂音频视频中的采样率、采样精度、码率、分辨率
      计算码率(bitrate)音频:CD音质,一般2通道,原始音频数据1秒钟的数据量是44.1k(采样率)*16(位深度)*2(声道数)=1411.2kbits,可求得整个音频文件的大小=时长(300s)*码率(1411.2)/1......
  • 如何修改CAD表格中部分数值精度?
    在CAD绘图过程中如果想要修改CAD表格中部分数值精度该如何操作?本节CAD制图初学入门教程小编就以浩辰CAD给排水软件为例来给大家简单介绍一下修改CAD表格中部分数值精度的操......
  • JavaScript ES modules import and export with trailing commas All In One
    JavaScriptESmodulesimportandexportwithtrailingcommasAllInOneJavaScript最佳实践export+trailingcommasexport{module1,module2,//........
  • 系统化学习前端之JavaScript(01)
    前言JavaScript由三部分组成:ECMAScript,DOM,BOM。ECMAScript:JavaScript核心语法,本篇主要介绍ECMAScript,即JavaScript核心语法。DOM:文件对象模型,主要作用是通过JavaS......
  • javascript 高级编程系列 - Set集合与Map集合
    ES6中新增的Set集合类型是一种有序列表,其中含有一些相互独立的非重复值,通过Set集合可以快速访问其中的数据,更有效地追踪各种离散值。1.创建Set集合并添加元素调用newS......
  • vue全家桶进阶之路2:JavaScript
    JavaScript(简称“JS”)是当前最流行、应用最广泛的客户端脚本语言,用来在网页中添加一些动态效果与交互功能,在Web开发领域有着举足轻重的地位。JavaScript与HTML和CSS......