js浮点型计算精度问题及解决办法

在javaScript中，由于浮点数并不是精确的值，所以在进行浮点数的运算时经常会出现非预期的结果。

来看下面例子：

0.1 + 0.2 === 0.3
// 结果返回 false

(0.3 - 0.2) === (0.2 - 0.1)
// 结果返回 false

所以涉及到小数的计算时要特别小心，需要经过处理才能返回预期结果。

那么，有什么办法可以解决呢？

废话不多说，直接上代码。敲黑板，画重点！

class Precision {

    // 加法
    add(a, b) {
        let arr = this.core(a, b);
        return (arr[0] + arr[1]) / arr[2];
    }

    // 减法
    sub(a, b) {
        let arr = this.core(a, b);
        return (arr[0] - arr[1]) / arr[2]; 
    }

    // 乘法
    mul(a, b) {
        let arr = this.core(a, b);
        return arr[0] * arr[1] / Math.pow(arr[2],2);
    }

    // 除法
    div(a, b) {
        let arr = this.core(a, b);
        return arr[0] / arr[1];
    }

    // 核心代码
    core(a, b) {
        a = Number(a).toString();
        b = Number(b).toString();
        let a_pos = a.indexOf('.');
        let b_pos = b.indexOf('.');
        if(a_pos === -1 && b_pos === -1) {
            return [Number(a), Number(b), 1];
        } else {
            let [aPos, bPos] = [0, 0];
            if(a_pos !== -1) {
                aPos = a.length - (a_pos+1);
                a = a.replace('.', '');
            }
            if(b_pos !== -1) {
                bPos = b.length - (b_pos+1);
                b = b.replace('.', '');
            }
            if(aPos < bPos) {
                a += '0'.repeat(bPos - aPos);
            } else {
                b += '0'.repeat(aPos - bPos);
            }
            return [Number(a), Number(b), Math.pow(10, (aPos > bPos ? aPos : bPos))];
        }
    }
}

思路其实就是先把浮点数转成整数，在进行运算。具体方法请看Precision类中的core方法。

测试代码

let Compute = new Precision();  // 实例化Precision类

// 加法
var a = 0.1;
var b = 0.2;
console.log('直接加法运算 a + b =', a + b);
console.log('Precision.js加法运算 a + b =', Compute.add(a, b));

// 减法
var a = 1.0;
var b = 0.7;
console.log('直接减法运算 a - b =', a - b);
console.log('Precision.js减法运算 a - b =', Compute.sub(a, b));

// 乘法
var a = 1.01;
var b = 1.003;
console.log('直接乘法运算 a * b =', a * b);
console.log('Precision.js乘法运算 a * b =', Compute.mul(a, b));

// 除法
var a = 0.029;
var b = 10;
console.log('直接除法运算 a / b =', a / b);
console.log('Precision.js除法运算 a / b =', Compute.div(a, b));

运行结果

说明

当传入参数非数值也不能转成数值时，计算结果返回NaN