首页 > 其他分享 >BigDecimal精度详解

BigDecimal精度详解

时间:2022-10-25 19:22:06浏览次数:92  
标签:舍入 BigDecimal UP DOWN 详解 HALF ROUND 精度


[BigDecimal精确度的计数保留法及精度丢失的解决办法]

目录

BigDecimal精确度的计数保留法

在银行、帐户、计费等领域,BigDecimal提供了精确的数值计算。其中8种舍入方式值得掌握。

1、ROUND_UP

  • 舍入远离零的舍入模式。
  • 在丢弃非零部分之前始终增加数字(始终对非零舍弃部分前面的数字加1)。
  • 注意,此舍入模式始终不会减少计算值的大小。
BigDecimal bd = new BigDecimal("2.18491");
//2.19
System.out.println(bd.setScale(2, BigDecimal.ROUND_UP));

2、ROUND_DOWN

  • 接近零的舍入模式。
  • 在丢弃某部分之前始终不增加数字(从不对舍弃部分前面的数字加1,即截短)。
  • 注意,此舍入模式始终不会增加计算值的大小。
BigDecimal bd = new BigDecimal("2.18491");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_DOWN));

3、ROUND_HALF_UP

  • 向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为向上舍入的舍入模式。
  • 如果舍弃部分 >= 0.5,则舍入行为与ROUND_UP相同;否则舍入行为与ROUND_DOWN相同。
  • 注意,这是我们大多数人在小学时就学过的舍入模式(四舍五入)。
BigDecimal bd = new BigDecimal("2.18491");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_HALF_UP));

BigDecimal bd1 = new BigDecimal("2.18591");
//2.19
System.out.println(bd1.setScale(2, BigDecimal.ROUND_HALF_UP));

4、ROUND_HALF_DOWN

  • 向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为向下舍入的舍入模式。
  • 如果舍弃部分 > 0.5,则舍入行为与 ROUND_UP 相同;否则舍入行为与 ROUND_DOWN 相同(五舍六入)。
BigDecimal bd = new BigDecimal("2.18500");
//2.18
System.out.println(bd.setScale(2, BigDecimal.ROUND_HALF_DOWN));

BigDecimal bd1 = new BigDecimal("2.18510");
//2.19
System.out.println(bd1.setScale(2, BigDecimal.ROUND_HALF_DOWN));

5、ROUND_HALF_DOWN 银行家舍入法

向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则向相邻的偶数舍入。

如果舍弃部分左边的数字为奇数,则舍入行为与 ROUND_HALF_UP 相同;

如果为偶数,则舍入行为与 ROUND_HALF_DOWN 相同。

注意,在重复进行一系列计算时,此舍入模式可以将累加错误减到最小。

此舍入模式也称为“银行家舍入法”,主要在美国使用。四舍六入,五分两种情况。

如果前一位为奇数,则入位,否则舍去。

以下例子为保留小数点1位,那么这种舍入方式下的结果。

1.15>1.2 
1.25>1.2

6、ROUND_CEILING

接近正无穷大的舍入模式。

如果 BigDecimal 为正,则舍入行为与 ROUND_UP 相同;

如果为负,则舍入行为与 ROUND_DOWN 相同。

注意,此舍入模式始终不会减少计算值。

7、ROUND_FLOOR

接近负无穷大的舍入模式。

如果 BigDecimal 为正,则舍入行为与 ROUND_DOWN 相同;

如果为负,则舍入行为与 ROUND_UP 相同。

注意,此舍入模式始终不会增加计算值。

8、ROUND_UNNECESSARY

断言请求的操作具有精确的结果,因此不需要舍入。

如果对获得精确结果的操作指定此舍入模式,则抛出ArithmeticException。

BigDecimal精度丢失的问题

BigDecimal bdTest = new BigDecimal(1.745);
BigDecimal bdTest1 = new BigDecimal(0.745);
bdTest = bdTest.setScale(2, BigDecimal.ROUND_HALF_UP);
bdTest1 = bdTest1.setScale(2, BigDecimal.ROUND_HALF_UP);
System.out.println("bdTest:" + bdTest); // 1.75
System.out.println("bdTest1:" + bdTest1); // 0.74

运行以上代码可以看到,1.745四舍五入的结果是1.75,0.745四舍五入的结果是0.74。

原因

使用参数为float或double的BigDecimal创建对象会丢失精度。因此强烈建议不要使用参数为float或double的BigDecimal创建对象。

System.out.println(new BigDecimal(1.745)); // 1.74500000000000010658141036401502788066864013671875
System.out.println(new BigDecimal(0.745)); // 0.74499999999999999555910790149937383830547332763671875

解决方案

  1. 使用BigDecimal(String val)的构造方法创建对象
new BigDecimal("1.745");
  1. 使用使用BigDecimal的valueOf(double val)方法创建对象
BigDecimal.valueOf(1.745);

参考链接

  1. BigDecimal.ROUND_HALF_XXX的各种用法
  2. BigDecimal精度丢失

标签:舍入,BigDecimal,UP,DOWN,详解,HALF,ROUND,精度
From: https://www.cnblogs.com/yaenli/p/16825946.html

相关文章

  • 微服务 Zipkin 链路追踪原理(图文详解)
    一个看起来很简单的应用,可能需要数十或数百个服务来支撑,一个请求就要多次服务调用。当请求变慢、或者不能使用时,我们是不知道是哪个后台服务引起的。这时,我们使用 Zip......
  • JUC中的AQS底层详细超详解
    摘要:当你使用java实现一个线程同步的对象时,一定会包含一个问题:你该如何保证多个线程访问该对象时,正确地进行阻塞等待,正确地被唤醒?本文分享自华为云社区《JUC中的AQS底层详......
  • Springboot中@Value的使用详解
    Springboot中@Value的使用详解Springboot通过@Value注解将配置文件中的属性注入到容器内组件中(可用在@Controller、@Service、@Configuration、@Component等Spring托管的......
  • PostgreSQL 数组类型使用详解
    PostgreSQL数组类型使用详解PostgreSQL数组类型使用详解可能大家对PostgreSQL这个关系型数据库不太熟悉,因为大部分人最熟悉的,公司用的最多的是MySQL我们先对Postgr......
  • 数据结构:线段树基础详解
    1.简介线段树,顾名思义,就是由线段构成的树,是一个较为优秀的数据结构,它将一个区间划分成一些单元区间,每个单元区间对应线段树中的一个叶结点,通常用于解决区间类的问题,在各大......
  • WLAN 帧详解
    帧格式如上是一个80211的帧格式,传输顺序是从左向右发送,也就是是说最高bit将会最后出现FrameControlFrameControl如下图所示FrameControl的第一个字段是Protocal目前......
  • qt QString 转float 精度问题
    在使用QString转float时,会发现结果float被自动增加精度问题。如QStringstr="23.2343",floatf=str.toFloat();结果可能是f=23.234299909...。如果我不想要那么高......
  • POJ 2390 (小数高精度乘法)
    小数高精度乘法m*(1+r/100)^yProgramP2390;constmaxn=40000;F=10;typearr=recordd:array[1..maxn]oflongint;len,doc:longint;end;var......
  • Flask学习笔记(十五)-Flask 上下文详解
    一、上下文说明上下文:在程序中可以理解为在代码执行到某一时刻时,根据之前代码所做的操作以及下文即将要执行的逻辑,可以决定在当前时刻下可以使用到的变量,或者可以完成的事......
  • POJ 3289(高精度乘法)
    高精度乘法ProgramP3289;constmaxn=40000;F=10;typearr=recordd:array[1..maxn]oflongint;len,doc:longint;end;varr,m:arr;y:long......