python学习笔记:浮点数计算问题(20180920)

python输出过程:一个十进制数———以二进制形式(近似值)存储到计算机———输出该二进制近似值的十进制近似值

举例:浮点数0.3的二进制表示

十进制小数二进制采用"乘2取整,顺序排列"法。具体做法是:用2乘十进制小数,将积的整数部分取出,再用2乘余下的小数部分,再将积的整数部分取出,如此循环,直到积中的小数部分为零,此时0或1为二进制的最后一位。或者达到所要求的精度为止。然后把取出的整数部分按顺序排列起来,先取的整数作为二进制小数的高位有效位,后取的整数作为低位有效位。

0.3×2=0.6    取0

0.6×2=1.2    取1

0.2×2=0.4    取0

0.4×2=0.8    取0

0.8×2=1.6    取1

扫描二维码关注公众号,回复: 3604226 查看本文章

0.6×2=1.2    取1(此处开始循环)

故:0.3的二进制表示为0.010011001......(1001循环),对于计算机而言,只能存储有限位数的二进制数。

二进制换为十进制,过程如下:

0.010011001=2^(-2)+2^(-5)+2^(-6)+2^(-9)≈1/4+1/32+1/64+1/512≈0.25+0.03125+0.015625+0.001953125≈0.298828125

所以,在python中直接将两个浮点数进行大小比较,或者做精确的计算,往往会得到意想不到的结果

一、大小比较问题:可以用math模块解决。

>import math

>webbrowser.open("https://docs.python.org/3/library/math.html")

#never use == with floats!
print("equality testing with math.isclose")
print("The problem...")
d1=0.1+0.1+0.1
d2=0.3
print(d1==d2)                #false
print()
print("The solution...")
print(math.isclose(d1,d2))   #true
#math.isclose checks import mathif the two numbers are almost equal within a small error!     

二、数值计算问题:可以用decimal.Decimal解决

import decimal      #or from decimal import Decimal
decimal.Decimal('3')-decimal.Decimal('1.3')      #output 1.7

 **注意Decimal(str(n)),括号内是先将其转换为字符串!

猜你喜欢

转载自blog.csdn.net/xiaozhimonica/article/details/82785625