java0.1*3

版权声明:注意:本文归作者所有,转载请标明原出处! 地址 : https://blog.csdn.net/qq_38366063 https://blog.csdn.net/qq_38366063/article/details/89207318

朋友(coreyXu)上次面试回来,问了一个问题,0.1*3==0.3?返回true还是false,首先,能这么问的话,肯定返回的false,但是为什么会这样呢?
在这里插入图片描述
在这里插入图片描述
做了个测试,想到计算机是使用二进制的,但是二进制的小数转为十进制会有精度问题,具体比较复杂…
所以总结

浮点数进行运算的时候尽量使用BigDecimal类型进行处理!参考:BigDecimal注意

猜你喜欢

转载自blog.csdn.net/qq_38366063/article/details/89207318