js 计算小数的相加,相乘不准确

原博文地址:https://www.cnblogs.com/zdz8207/p/js-number-tofixed.html

12*1.2 != 14.4 得到14.3999999

0.1+0.2 != 0.3 得到0.30000000000000004

为什么会这样呢?

原来js在计算浮点数时会先把浮点数转换成二进制,其中会出现误差,相加完再转换乘十进制时又会出现误差,吧啦吧啦吧啦,大概是这个原因吧,不重要,重要的是解决方案,下面给出三个解决方案,针对乘加除运算,核心原理是将浮点数转换成整数,再转换成浮点数。

加:0.1+0.2

function accAddOrRed(arg1,arg2,red){ 
    var r1,r2,m;  
    try{
        r1=arg1.toString().split(".")[1].length
    }catch(e){
        r1=0
    } 
    try{
        r2=arg2.toString().split(".")[1].length
    }catch(e){
        r2=0
    } 
    m=Math.pow(10,Math.max(r1,r2))  
    return red ? (arg1*m-arg2*m)/m : (arg1*m+arg2*m)/m } 
Number.prototype.accAddOrRed = accAddOrRed

乘:12*1.2

function accMul(arg1, arg2) {
    var m = 0, s1 = arg1.toString(),s2 = arg2.toString();
    try {
        m += s1.split(".")[1].length
    } catch (e) { }
    try {
        m += s2.split(".")[1].length
    } catch (e) { }
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) /Math.pow(10, m)
}
Number.prototype.mul = accMul 

除:0.3/0.2

function accDiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.toString().split(".")[1].length
    } catch (e) {
    } try {
        t2 = arg2.toString().split(".")[1].length
    } catch (e) { }
    with (Math) {
        r1 = Number(arg1.toString().replace(".", ""))
        r2 = Number(arg2.toString().replace(".", ""))
        return (r1 / r2) * pow(10, t2 - t1);
    }
}

Number.prototype.div = accDiv

 当然,如果对结果精确度要求不严格,可以用toFixed,保留指定小数位

猜你喜欢

转载自www.cnblogs.com/lijianjian/p/10758046.html