首页 > 其他分享 >JS中计算时数据有误差解决方案

JS中计算时数据有误差解决方案

时间:2024-11-01 18:16:17浏览次数:3  
标签:function 误差 return 解决方案 ret JS num export var

首先判断需要计算的数字是否为整数
// 判断一个数字是否为一个整数
export function isInt(num) {
  num = Number(num);
  return Math.floor(num) === num
}
将一个浮点数转为整数,返回整数和倍数。如3.14 返回314 100
export function toInt(num) {
  var ret = { times: 1, num: 0 };
  if (isInt(num)) {
    ret.num = num;
    return ret
  }
  var str = num + '';
  var dotPos = str.indexOf('.');
  var len = str.substring(dotPos + 1).length;
  ret.times = Math.pow(10, len);;
  ret.num = parseInt(num * ret.times + 0.5, 10);
  return ret
}
 实现假发乘除运算,确保不丢失精度  op运算类型1(add,sub,mul,divide)
// 实现假发乘除运算,确保不丢失精度  op运算类型1(add,sub,mul,divide)
export function operation(a, b, op) {
  a = Number(a);
  b = Number(b);
  var o1 = toInt(a);
  var o2 = toInt(b);
  va

标签:function,误差,return,解决方案,ret,JS,num,export,var
From: https://blog.csdn.net/cyj0919/article/details/143438142

相关文章

  • protobuf json
    为什么大厂这么爱用protobuf?https://mp.weixin.qq.com/s/COQu3rckfZJUelSVBV6IMA为什么大厂这么爱用protobuf?原创 腾讯技术工程 腾讯技术工程 2024年10月30日17:34 广东 话题背景在protobuf在国内兴起的时候,jsonoverhttp的RESTful,api也在国内同步兴起了。司内也......
  • js手写:防抖&节流 逐行代码解析
    差异分析刚开始写节流的时候,没有真正理解其难点,而且网上的防抖和节流函数,不得不说,真的是鱼龙混杂,有些看了简直添乱。    之前一直认为节流就是“时间间隔T内,点击一个按钮n次,只执行第1和n次”,完全没有体会到节流的难点其实在于多次相同的调用时传递的不同的!参数!防抖......
  • NodeJS动漫论坛-计算机毕业设计源码09947
    基于微信小程序的动漫论坛摘 要随着移动互联网的飞速发展,智能手机和移动互联网已经成为人们日常生活中不可或缺的一部分。在这样的背景下,微信小程序应运而生,凭借其无需下载安装、即用即走的特点,迅速成为连接用户与服务的桥梁。动漫作为一种深受年轻人喜爱的文化形式,拥有庞......
  • 用文字“画出”时序图:用 AI+Mermaid.js 解决交互过程中的问题
    什么是时序图序列图是一种用于描述对象之间在时间上的交互顺序的图表。它可以展示对象之间是如何相互作用的,以及这些交互的顺序。什么是MermaidMermaid.js是一个开源项目,它允许你通过简单的文本代码来绘制图表。无论你是开发者、学生还是普通用户,它都能帮助你将复杂的信息以......
  • JS里的this
    用来访问对象的this不可靠的外部变量名访问letuser={name:"John",age:30,sayHi(){alert(user.name);//"user"外部变量名}};user.sayHi();//TypeError:Cannotreadproperty'name'ofnull如果我们决定将user复制给另一个变量,例如admin......
  • 基于nodejs+vue基于的农贸市场网站的设计与实现[开题+源码+程序+论文]计算机毕业设计
    本系统(程序+源码+数据库+调试部署+开发环境)带文档lw万字以上,文末可获取源码系统程序文件列表开题报告内容一、选题背景关于农贸市场网站的设计与实现问题的研究,现有研究主要以农贸市场的实体运营、传统管理模式为主,专门针对基于特定功能的农贸市场网站设计与实现的研究较......
  • 基于nodejs+vue基于的汽车租赁系统[开题+源码+程序+论文]计算机毕业设计
    本系统(程序+源码+数据库+调试部署+开发环境)带文档lw万字以上,文末可获取源码系统程序文件列表开题报告内容一、选题背景关于汽车租赁系统的研究,现有研究多集中在系统的基本功能构建与运营模式方面,如迪蒙汽车租赁系统,其主要关注如何通过多网融合来拓展业务模式,提高运营效率......
  • 基于nodejs+vue基于的社区问答网站与设计[开题+源码+程序+论文]计算机毕业设计
    本系统(程序+源码+数据库+调试部署+开发环境)带文档lw万字以上,文末可获取源码系统程序文件列表开题报告内容一、选题背景关于社区问答网站的研究,现有研究多集中在其社交性和信息传播方面1。在国外,社区问答网站发展较早,技术和运营模式相对成熟,注重用户体验和信息的个性化推荐......
  • 【昌哥IT课堂】MySQL8.3 EXPLAIN中的新JSON格式(译)
    MySQL提供了两个用于分析查询计划的强大工具:EXPLAIN和EXPLAINANALYZE。EXPLAIN显示优化器选择的执行计划,并在执行之前停止,而EXPLAINANALYZE实际执行查询并收集有关每个操作的处理时间和返回行数的统计信息。输出格式可以是表格形式(TRADITIONAL)、树形结构或JSON。前两种格式适用......
  • 学习threejs,导入OBJ格式和MTL的格式的模型
    ......