Java—Double类型进行加减乘除出错(精度)问题

前言:

我们知道,计算机在计算数据过程中都要先把源代码翻译成二进制的机器码,然后再进行相关的运算。然而在转换的过程中,有些十进制数无法用一个有限的二进制数来表示,就是说转换的时候出现了精度的丢失问题,所以导致最后在运算的过程中,自然就出现了我们出现的精度问题。

整体思路是先将 double 类型的数据转换成 BigDecimal 来进行运算,

目录

一、加法运算        

不做处理时:

 BigDecimal 处理后:

二、减法运算

不做处理时:

 BigDecimal 处理后:

三、乘法运算

不做处理时:

 BigDecimal 处理后:

四、除法运算(Double数相除,并保留scale位小数)

不做处理时:

 BigDecimal 处理后:

五、double与int运算

 不做处理时:

 BigDecimal 处理后:


一、加法运算        

不做处理时:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        System.out.println(m1+m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p1.add(p2).doubleValue());
    }

 运行结果:

二、减法运算

不做处理时:

public static void main(String[] args) {
        double m1=0.11;
        double m2=0.2;
        System.out.println(m2-m1);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.11;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p2.subtract(p1).doubleValue());
    }

 运行结果:

三、乘法运算

不做处理时:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        System.out.println(m1*m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p1.multiply(p2).doubleValue());
    }

 运行结果:

四、除法运算(Double数相除,并保留scale位小数)

BigDecimal.ROUND_HALF_UP表示四舍五入,

BigDecimal.ROUND_HALF_DOWN是五舍六入,

BigDecimal.ROUND_UP表示进位处理(就是直接加1),

BigDecimal.ROUND_DOWN表示直接去掉尾数。

不做处理时:

public static void main(String[] args) {
        double m1=0.14;
        double m2=0.3;
        System.out.println(m1/m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.14;
        double m2=0.3;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        //3代表要保留的位数
        System.out.println(p1.divide(p2,3,BigDecimal.ROUND_HALF_UP).doubleValue());
    }

 运行结果:

五、double与int运算

 不做处理时:

public static void main(String[] args) {
        int m1=3;
        double m2=0.3;
        System.out.println(m1*m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        int m1=3;
        double m2=0.3;
        BigDecimal p=new BigDecimal(Double.toString(m1));
        BigDecimal n=new BigDecimal(Double.toString(m2));
        System.out.println(p.multiply(n).doubleValue());
    }

 运行结果:

猜你喜欢

转载自blog.csdn.net/qq_62799214/article/details/127833066
今日推荐