首页 > 编程语言 >记一次java四舍五入错误结果的问题

记一次java四舍五入错误结果的问题

时间:2022-11-25 22:23:01浏览次数:59  
标签:四舍五入 java BigDecimal 错误 System b1 println out

1.背景

在进行除法计算时,结果不符合预期

2.测试过程

double精度问题,导致四舍五入结果误差

        BigDecimal b1 = new BigDecimal(0.245);
        BigDecimal b2 = new BigDecimal("0.245");
        System.out.println(b1);
        System.out.println(b2);
        System.out.println("------------------------------------");
        System.out.println(b1.setScale(2, BigDecimal.ROUND_HALF_UP));
        System.out.println(b2.setScale(2, BigDecimal.ROUND_HALF_UP));

3.引用

Java避坑之为什么BigDecimal四舍五入之后值是错误的

标签:四舍五入,java,BigDecimal,错误,System,b1,println,out
From: https://www.cnblogs.com/route/p/16926568.html

相关文章

  • JAVA数据类型拓展
    数据类型拓展,基础面试题讲解整数//整数拓展进制二进制0b十进制八进制0十六进制0xinti=10;inti2=0b10;inti3=010;......
  • Git操作,有时候会遇到“git did not exit cleanly (exit code 128)”错误
    我在上传些代码的时候,有时候会遇到“gitdidnotexitcleanly(exitcode128)”错误。通常都是网络原因。找了网上解决的方法:1、鼠标右键->TortoiseGit->Settings->......
  • Daphne 部署 Django ASGI 的常见错误与解决方法
    问题1django.core.exceptions.AppRegistryNotReady:Appsaren'tloadedyet.处理方法:修改asgi.py,增加django.setup()注意:django.setup()要置顶,不能在底部,否则使用da......
  • win10 torchvision训练模型错误
    pytorch-1.8.2+cuda10.2+torchvison-0.9.2(有问题)pytorch/vision链接1、拉vision代码1)代码版本号需要跟pytorch对应上,也可以跟torchvison版本一致2、重新编译生成torc......
  • IIS错误代码500.21 ,Nhibernate更新报错,委托的使用。action传参数
    快速阅读IIS错误代码500.21,Nhibernate更新报错,委托的使用。action传参数IIS错误代码500.21HTTP错误500.21-InternalServerError处理程序“PageHandlerFactory-Integ......
  • ACM 模式下的Java
    一、引入包相关importjava.util.*;二、基本输入相关涉及到输入需要提前创建一个键盘接收器Scannercin=newScaner(System.in);1、输入一个基本数据结构按照by......
  • Java SPI 机制浅析
    本文通过探析JDK提供的,在开源项目中比较常用的JavaSPI机制,希望给大家在实际开发实践、学习开源项目提供参考。一、SPI是什么SPI全称ServiceProviderInterface,......
  • Java 数组拷贝的几种方式
    目前在Java中数据拷贝提供了如下方式:1、clone2、System.arraycopy3、Arrays.copyOf4、Arrays.copyOfRange。一、clone方法clone方法是从Object类继承过来的,基本数据......
  • Java 序列化工具
    一、Java自带的序列化Java提供了一种对象序列化的机制,该机制中,一个对象可以被表示为一个字节序列,该字节序列包括该对象的数据、有关对象的类型的信息和存储在对象中数据......
  • Java学习六
    一.小结1.使用语法elemenrType[] arrayRefVar(元素类型[]数组引用变量)或elementType  arrayRefVar[](元素类型数组引用变量[])声明一个数组类型的变量。尽管e......