关于浮点数计算容易出错的点和不熟悉的点

1.首先是判断,这个浮点数的格式是题目给定的,还是IEEE754标准

2.浮点数计算有6个步骤:

1)将真值转成浮点数:
i)如果是自定义浮点数,把真值写成0.XXX×2y的形式;如果是IEEE754,则化成1.XXX×2y的格式
ii)如果是自定义浮点数,那么求负数的补码的步骤是先求其相反数的原码,然后和符号位一起取反加一即可

2)对阶:如果是IEEE754,那么需要连着那个整数1进行以为,即移位的不能仅仅是尾数0.XXX,应该是1.XXX

3)尾数运算:如果是IEEE754,那么就需要用32位,而32位你容易在不连续的1之间多写1个或少些1个0;IEEE754的话,尾数要用原码来计算,那么直接计算就可以了,不用纠结于书上晦涩难懂的转来转去

4)规格化

5)舍入

6)溢出判断

3.二进制转成16进制时,容易在小偶数上出错,解决方法是像转大于9的那几个数那样,逐个加起来

4.IEEE754中,+0和-0是不一样的,或者说,IEEE754+原码+反码,是目前遇到的对0有两种表示方法的编码方法

猜你喜欢

转载自blog.csdn.net/yuanren201/article/details/108025423