js 计算精度问题,及解决办法

js计算精度问题(浮点数误差,大数计算出错)
JavaScript 浮点数运算时经常遇到会 0.000000001 和 0.999999999 这样奇怪的结果,如:

0.1+0.2   //0.30000000000000004
1-0.9     //0.09999999999999998
9007199254740993-9007199254740992  //0
Math.pow(2,1023) //8.98846567431158e+307   
//但是
Math.pow(2,1024)  //Infinity
1
2
3
4
5
6
7
对于产生这些计算误差的具体原因这里不做探讨,如果想要了解可以到 https://github.com/camsong/blog/issues/9 了解其原理。

解决办法
1.代码如下

// 解决四维运算,js计算失去精度的问题 

//加法   
Number.prototype.add = function(arg){   
    var r1,r2,m;   
    try{r1=this.toString().split(".")[1].length}catch(e){r1=0}   
    try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}   
    m=Math.pow(10,Math.max(r1,r2))   
    return (this*m+arg*m)/m   
}     
//减法   
Number.prototype.sub = function (arg){   
    return this.add(-arg);   
}   
//乘法   
Number.prototype.mul = function (arg)   
{   
    var m=0,s1=this.toString(),s2=arg.toString();   
    try{m+=s1.split(".")[1].length}catch(e){}   
    try{m+=s2.split(".")[1].length}catch(e){}   
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)   
}  
//除法   
Number.prototype.div = function (arg){   
    var t1=0,t2=0,r1,r2;   
    try{t1=this.toString().split(".")[1].length}catch(e){}   
    try{t2=arg.toString().split(".")[1].length}catch(e){}   
    with(Math){   
        r1=Number(this.toString().replace(".",""))   
        r2=Number(arg.toString().replace(".",""))   
        return (r1/r2)*pow(10,t2-t1);   
    }   

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
0.1+0.2  // 0.30000000000000004
0.1.add(0.2)  //0.3
0.3-0.1  //0.19999999999999998
0.3.sub(0.1)  //0.2
1
2
3
4
2.可以通过引入 math.js 或者 bigNumber.js 进行解决

例如

99999999999999999999-99999999999999999000  // 0
new BigNumber('99999999999999999999').minus('99999999999999999000')  //999
99999999999999999999===99999999999999999000  //true
new BigNumber('99999999999999999999').eq('99999999999999999000')  //false
1
2
3
4
BigNumber.js 支持很多相关计算,如果想了解更多请查阅相关API
 

原文地址:https://blog.csdn.net/m0_37793545/article/details/79196311

猜你喜欢

转载自blog.csdn.net/ywb201314/article/details/88036012
今日推荐