关于JS浮点数数值计算会产生舍入误差的问题

问题现象:

  0.1加0.2的结果为:0.30000000000000004,如图所示:

问题原因:

  我们知道,能被计算机读懂的是二进制,而不是十进制,所以我们先把 0.1 和 0.2 转换成二进制看看:  

 0.1==》0.1.toString(2)==》0.0001100110011(无限循环..)
 0.2==》0.2.toString(2)==》0.001100110011 (无限循环..)

  双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

  有一点需要明确:这是使用IEEE754数值的浮点计算的通病,并非只有ECMAScript才有这个问题。只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

解决方案:

 方案一:如果有精度要求,可以用toFixed方法处理(toFixed方法是对数值进行四舍五入的操作,这种方法有较大的局限性)

var num1 = 0.1; 
var num2 = 0.2; 
alert( parseFloat((num1 + num2).toFixed(2)) === 0.30 );

 方案二:通用处理方案:把需要计算的数字乘以 10 的 n 次幂,换算成计算机能够精确识别的整数,然后再除以 10 的 n 次幂

复制代码
formatNum = function(f, digit) { 
    var m = Math.pow(10, digit); 
    return parseInt(f * m, 10) / m; 
} 
var num1 = 0.1; 
var num2 = 0.2;
alert(Math.formatFloat(num1 + num2, 1) === 0.3)
复制代码

原文链接:https://www.cnblogs.com/lvmylife/p/9001256.html

猜你喜欢

转载自www.cnblogs.com/love-yu/p/10978416.html