当前位置:首页 > Java技术 > BigDecimal精确计算及陷阱

BigDecimal精确计算及陷阱

2022年08月05日 18:17:45Java技术6

BigDecimal通常在涉及到精确计算的时候会用到,下面是自己多次错误使用BigDecimal的总结。


结论:

  1. BigDecimal初始化小数时,尽量用字符串形式,例如new BigDecimal("0.1");
  2. BigDecimal类型变量比较大小时用compareTo方法,判断变量值是否为0,与BigDecimal.ZERO比较大小。
  3. BigDecimal作除法时,除了要考虑除数是否为0,更要考虑是否能除尽的问题,直接调用BigDecimal divide(BigDecimal divisor, int scale, int roundingMode)方法做除法可以避免除不尽的问题。

 

初始化BigDecimal变量:

//BigDecimal初始化  
public static void testBigDecimalinit() {  
    BigDecimal num1 = new BigDecimal(0.1);  
    System.out.println("坑点1:num1="+num1);//坑点1:num1=0.1000000000000000055511151231257827021181583404541015625  
      
    BigDecimal num2 = new BigDecimal("0.1");  
    System.out.println("正确写法:num2="+num2);//正确写法:num2=0.1  
}   
结论:尽量用 字符串的形式初始化,因为小数在计算机内部根本没法精确表示。 
 

比较大小

比较BigDecimal类型的变量和0的大小,用compareTo,不要用equals:
if (num1.compareTo(BigDecimal.ZERO)>0)  
if (num1.compareTo(BigDecimal.ZERO)<0)  
if (num1.compareTo(BigDecimal.ZERO)==0) 
//比较大小  
public static void testBigDecimalCompareTo() {  
    BigDecimal num1 = new BigDecimal("0.1");  
    BigDecimal num2 = new BigDecimal("0.100");  
      
    if (!num1.equals(num2)) {  
        System.out.println("坑点1,用equals比较大小,num1="+num1+", num2="+num2+" 【不相等】");  
    }  
    if (!(num1 == num2)) {  
        System.out.println("坑点2,用==运算符比较大小,num1="+num1+", num2="+num2+" 【不相等】");  
    }  
      
    if (num1.compareTo(num2) == 0) {  
        System.out.println("正确比较大小,用compareTo,num1="+num1+", num2="+num2+" 【相等】");  
    }  
}    
结论:比较大小或者值是否相等,用 compareTo方法
 

BigDecimal除法

在出现除不尽的时候,会出现问题,例如1/3的问题:
//BigDecimal除法  
    public static void testBigDecimalDivide() {  
        BigDecimal num1 = new BigDecimal("1");  
        //坑点:Exception in thread "main" java.lang.ArithmeticException: Non-terminating decima    l expansion; no exact representable decimal result.  
//        System.out.println("坑点写法1:"+num1.divide(new BigDecimal("3")));  
//        System.out.println("坑点写法2:"+num1.divide(new BigDecimal("3")).setScale(2, BigDecimal.ROUND_DOWN));  
          
        System.out.println("正确写法:"+num1.divide(new BigDecimal("3"), 2, BigDecimal.ROUND_HALF_DOWN));  
    }    

结论:只有在divide的时候就设置好要精确的小数位数和舍入模式,才能避免出现无法精确表达除不尽的问题。

 

作者:H4X0R
来源链接:https://www.cnblogs.com/h4x0r-001/p/4444875.html

版权声明:
1、JavaClub(https://www.javaclub.cn)以学习交流为目的,由作者投稿、网友推荐和小编整理收藏优秀的IT技术及相关内容,包括但不限于文字、图片、音频、视频、软件、程序等,其均来自互联网,本站不享有版权,版权归原作者所有。

2、本站提供的内容仅用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯相关权利人及本网站的合法权利。
3、本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站(javaclubcn@163.com),我们将第一时间核实后及时予以删除。


本文链接:https://www.javaclub.cn/java/17730.html

标签: BigDecimal
分享给朋友:

“BigDecimal精确计算及陷阱” 的相关文章

java.math.BigDecimal常用方法

+构造函数 BigDecimal(BigInteger val) 将BigInteger转化为BigDecimal。 BigDecimal(BigInteger unscaledVal, int scale) 将B...

Java:利用BigDecimal类巧妙处理Double类型精度丢失

Java:利用BigDecimal类巧妙处理Double类型精度丢失

文章目录 本篇要点 经典问题:浮点数精度丢失 十进制整数如何转化为二进制整数? 十进制小数如何转化为二进制数?...

BigDecimal 与 doubleValue 的使用 ,以及四舍五入

/** * 保存发票信息 * @param controller * @return * @throws ParseException * @throws ActiveRecordException */ @...

Java BigDecimal

1构造函数(主要测试参数类型为double和String的两个常用构造函数)        BigDecimal aDouble =new BigDecimal(1.22);  &nb...

BigDecimal 使用compareTo比较大小

1.BigDecimal的比较模式  BigDecimal b1 = new BigDecimal(0.1); BigDecimal b2 = new BigDecimal(0.2); int c = b1.compareTo(b2); // -1 c=1表示...

【java提高】(19)---BigDecimal详解和精度问题

【java提高】(19)---BigDecimal详解和精度问题

BigDecimal详解和精度问题 一、背景 在实际开发中,对于 不需要任何准确计算精度的属性可以直接使用float或double,但是如果需要精确计算结果,则必须使用BigDecimal,例如价格、质量。 为什么这么说,主要有两点...

BigDecimal<转载>

前言 我们都知道浮点型变量在进行计算的时候会出现丢失精度的问题。如下一段代码: System.out.println(0.05 + 0.01); System.out.println(1.0 - 0.42); System.out.printl...

java定义Bigdecimal类型

Java常用类型定义、转换及比较主要有以下三个方面: (一)Integer类型 1).定义 Integer a=new Integer(int value); Integer a=new Integer(String value); 2).转换 i.定义中就可以将int...

BigDecimal 百分比转换

public static void main(String[] args) { BigDecimal bigDecimalCount = BigDecimal.valueOf(1); BigDecimal bigDecimalTotal...

Java BigDecimal 的舍入模式(RoundingMode)详解

  BigDecimal 有 8 种 RoundingMode(舍入模式),分别总结如下。 一、RoundingMode 详解 ROUND_UP 进位制:不管保留数字后面是大是小 (0 除外) 都会进 1。结果会向原点的反方向对齐,正...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。