首页 > 其他分享 >double类型计算精度丢失问题及解决方法

double类型计算精度丢失问题及解决方法

时间:2023-06-18 11:34:26浏览次数:33  
标签:计算精度 BigDecimal double System 丢失 println new out

前言 
  如果你在测试金融相关产品,请务必覆盖交易金额为小数的场景。特别是使用Java语言的初级开发。
Java基本实例
先来看Java中double类型数值加、减、乘、除计算式实例:

public class Test{
    public static void main(String [] args){
        System.out.println(0.06+0.01);
        System.out.println(1.0-0.42);
        System.out.println(4.015*100);
        System.out.println(303.1/1000);    
    }
}

运行结果如下:
D:\linyfeng>java Test
0.06+0.01 = 0.06999999999999999
1.0-0.42 = 0.5800000000000001
4.015*100 = 401.49999999999994
303.1/1000 = 0.30310000000000004
    我们发现,计算出来的值和我们预期结果不一致。原因在于我们的计算机是二进制的。浮点数没有办法使用二进制进行精确表示。计算机的CPU表示浮点数由两个部分组成:指数和尾数,这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。如:2.4的二进制表示并非就是精确的2.4。反而最为接近的二进制表示是 2.3999999999999999。浮点数的值实际上是由一个特定的数学公式计算得到的。可参考http://blog.csdn.net/abing37/article/details/5332798
    那么我们如何才能够获取我们想要的预期结果呢?特别是在处理金额交易计算上。其实java的float只能用来进行科学计算或工程计算,在大多数的商业计算中,一般采用java.math.BigDecimal类来进行精确计算。在使用BigDecimal类来进行计算的时候,主要分为以下步骤:
  (1) 用float或者double变量构建BigDecimal对象。通常使用BigDecimal的构造方法或者静态方法的valueOf()方法把基本类型的变量构建成BigDecimal对象。
  (2) 通过调用BigDecimal的加,减,乘,除等相应的方法进行算术运算。
  (3) 把BigDecimal对象转换成float,double,int等类型。
BigDecimal类基本介绍
    在修改实例之前,我们先简单了解一下BigDecimal类的构造函数和成员方法。
BigDecimal(int var)  //创建一个具有参数所指定整数值的对象。
BigDecimal(double var) //创建一个具有参数所指定双精度值的对象。
BigDecimal(long var)  //创建一个具有参数所指定长整数值的对象。
BigDecimal(String var) //创建一个具有参数所指定以字符串表示的数值的对象。
  成员方法(BigDecimal 的运算方式 不支持 + - * / 这类的运算 它有自己的运算方法)
BigDecimal add(BigDecimal augend)  //加法运算
BigDecimal subtract(BigDecimal subtrahend) //减法运算
BigDecimal multiply(BigDecimal multiplicand) //乘法运算
BigDecimal divide(BigDecimal divisor) //除法运算
  好,既然我们知道方法了,那么我们就用新方法来解决一下上述的问题。修改一下代码,如下:

import java.math.*;

public class Test{
    public static void main(String [] args){
        double d1 = 0.06;
        double d2 = 0.01;
        BigDecimal b1 = new BigDecimal(d1);
        BigDecimal b2 = new BigDecimal(d2);
        
        System.out.println(b1.add(b2).doubleValue());
        
        double d3 = 1.0;
        double d4 = 0.42;
        BigDecimal b3 = new BigDecimal(d3);
        BigDecimal b4 = new BigDecimal(d4);
        System.out.println(b3.subtract(b4).doubleValue());
        
        double d5 = 4.015;
        double d6 = 100;
        BigDecimal b5 = new BigDecimal(d5);
        BigDecimal b6 = new BigDecimal(d6);
        System.out.println(b5.multiply(b6).doubleValue());
        
        double d7 = 303.1;
        double d8 = 1000;
        BigDecimal b7 = new BigDecimal(d7);
        BigDecimal b8 = new BigDecimal(d8);
        System.out.println(b7.divide(b8).doubleValue());    
    }
}

运行结果:
D:\linyfeng>java Test
0.06999999999999999
0.5800000000000001
401.49999999999994
0.30310000000000004
  我们发现结果还是不对。从上述实例我们知道调用的构造方法为BigDecimal(double var)。 BigDecimal(double val)将 double 转换为 BigDecimal,后者是double的二进制浮点值准确的十进制表示形式。返回的BigDecimal的标度是使 (10scale × val) 为整数的最小值。这里也几个特别要注意的地方:
  (1)此构造方法的结果有一定的不可预知性。有人可能认为在 Java 中写入 new BigDecimal(0.1) 所创建的 BigDecimal 正好等于 0.1(非标度值 1,其标度为 1),但是它实际上等于 0.1000000000000000055511151231257827021181583404541015625。这是因为 0.1 无法准确地表示为 double(或者说对于该情况,不能表示为任何有限长度的二进制小数)。这样,传入 到构造方法的值不会正好等于 0.1(虽然表面上等于该值)。
  (2)另一方面,String 构造方法是完全可预知的:写入 new BigDecimal("0.1") 将创建一个 BigDecimal,它正好 等于预期的 0.1。因此,比较而言,通常建议优先使用 String 构造方法。
  (3)当 double 必须用作 BigDecimal 的源时,请注意,此构造方法提供了一个准确转换;它不提供与以下操作相同的结果:先使用 Double.toString(double) 方法,然后使用 BigDecimal(String) 构造方法,将 double 转换为 String。要获取该结果,请使用 static valueOf(double) 方法。
  根据上述描述,我们继续修改下例子,修改后如下:

import java.math.*;

public class Test{
    public static void main(String [] args){
        double d1 = 0.06;
        double d2 = 0.01;
        BigDecimal b1 = new BigDecimal(Double.toString(d1));
        BigDecimal b2 = new BigDecimal(Double.toString(d2));
        
        System.out.println(b1.add(b2).doubleValue());
        
        double d3 = 1.0;
        double d4 = 0.42;
        BigDecimal b3 = new BigDecimal(Double.toString(d3));
        BigDecimal b4 = new BigDecimal(Double.toString(d4));
        System.out.println(b3.subtract(b4).doubleValue());
        
        double d5 = 4.015;
        double d6 = 100;
        BigDecimal b5 = new BigDecimal(Double.toString(d5));
        BigDecimal b6 = new BigDecimal(Double.toString(d6));
        System.out.println(b5.multiply(b6).doubleValue());
        
        double d7 = 303.1;
        double d8 = 1000;
        BigDecimal b7 = new BigDecimal(Double.toString(d7));
        BigDecimal b8 = new BigDecimal(Double.toString(d8));
        System.out.println(b7.divide(b8).doubleValue());    
    }
}

运行结果如下:
D:\linyfeng>java Test
0.07
0.58
401.5
0.3031
  计算精度正确。
总结
(1)需要精确的表示两位小数时我们需要把他们转换为BigDecimal对象,然后再进行运算。
(2)使用BigDecimal(double val)构造函数时仍会存在精度丢失问题,建议使用BigDecimal(String val)。这就需要先把double类型(调用Double.toString(double var))转换为字符串然后在作为BigDecimal(String val)构造函数的参数。转换为BigDecimal对象之后再进行加减乘除操作,这样精度就不会出现问题了。这也是为什么有关金钱数据存储都使用BigDecimal。

标签:计算精度,BigDecimal,double,System,丢失,println,new,out
From: https://blog.51cto.com/u_16111396/6507883

相关文章

  • java使double保留两位小数的多方法 java保留两位小数
    代码如下:mportjava.text.DecimalFormat;  DecimalFormat   df  =newDecimalFormat("######0.00");  doubled1=3.23456 doubled2=0.0;doubled3=2.0;df.format(d1);df.format(d2);df.format(d3);3个结果分别为:复制代码代码如下:3.230.002.00java保留两位小......
  • rabbit MQ —— ha-sync-mode. message 同步/ 丢失 in new pods
    经典队列镜像—兔子MQ(rabbitmq.com) why?message信息同步=》queue一段时间不可用(可用性降低) ConfiguringSynchronisationLet'sstartwiththemostimportantaspectofqueuesynchronisation: whileaqueueisbeingsynchronised,allotherqueueoperati......
  • vuex actions 和 mutations 分析,为什么官方建议 actions 里面不要直接修改 state, 为
    来自官方大大:区分actions和mutations并不是为了解决竞态问题,而是为了能用devtools追踪状态变化。事实上在vuex里面actions只是一个架构性的概念,并不是必须的,说到底只是一个函数,你在里面想干嘛都可以,只要最后触发mutation就行。异步竞态怎么处理那是用户自己的事情。vu......
  • 解决kali eth0网卡丢失问题
    平常每次kali关机后重新开机,就会出现eth0网卡获取不到IP,查看网卡配置文件,发现配置信息每次都只剩lo,就很难受。后来,想到每次开机配置文件都会更改,那是存在修改权限,那我是不是把修改权限去掉就解决了呢chmod-w/etc/network/interfaces#去掉用户的修改权限chmodg-w/etc/net......
  • Long类型后端传前端精度丢失的优雅解决方案
    前言提要:javaScript的最大安全值:Number.MAX_SAFE_INTEGER是一个值为9007199254740991的常量,如果超过这个值,那么js会出现不精确问题解决方案(推荐级别:低等):修改字段类型为String解决方案(推荐级别:中等):字段上添加注解@JsonFormat(shape=JsonFormat.Shape.STRING)......
  • 【服务器数据恢复】5盘RAID5中的4块盘重建raid5导致原raid数据丢失的数据恢复案例
    服务器数据恢复环境:HP某型号服务器,5块硬盘组建了一组raid5磁盘阵列。服务器故障&分析:服务器在工作过程中,raid5磁盘阵列中的一块磁盘掉线,由于raid5的容错特点,raid阵列未受影响,工作人员也没有及时关注磁盘离线的问题。服务器继续运行一段时间后出现故障,管理员将现有的4块磁盘进行......
  • ios NSString format 保留小数点 float double
     iosNSStringformat保留小数点floatdouble self.orderCost.text=[NSStringstringWithFormat:@"%.1f元",self.order.cost.floatValue];%.1f 表示小数点一位,%.2f表示小数点2位,依次类推.格式定义TheformatspecifierssupportedbytheNSStringformattingmethodsa......
  • java中 怎么把字符串转成 double
    Java中可以使用Double类中的静态方法 parseDouble() 将一个字符串转换为double类型的数值。用法如下:Stringstr="3.14";doublenumber=Double.parseDouble(str);在上述代码中,我们首先定义一个字符串 str,它包含了要转换的数值。然后,我们使用 parseDouble() 方法将字......
  • java中 怎么把字符串转成 double
    Java中可以使用Double类中的静态方法 parseDouble() 将一个字符串转换为double类型的数值。用法如下:Stringstr="3.14";doublenumber=Double.parseDouble(str);在上述代码中,我们首先定义一个字符串 str,它包含了要转换的数值。然后,我们使用 parseDouble() 方法将字......
  • 解决方案 | Adobe Acrobat XI Pro 右键菜单“在Acrobat中合并文件”丢失的最佳修复方
    1、问题 AdobeAcrobatXIPro右键菜单“转换为AdobePDF”与“在Acrobat中合并文件”不见了。 2、解决方案桌面左下角搜索“添加或删除程序”,按照如下修复即可。 ......