程序是怎样跑起来的第三章

程序是怎样跑起来的第三章

 

这一章讲了计算机计算小数时出错的原因,计算机之所以叫"计算"机就是因为发明它主要是用来计算的,"计算"当然是它的特长,在大家的印象中,计算一定是非常准确的。但实际上, 整数和小数没有太大的差别,是因为计算机内部所有信息都是以二进制数的形式来处理的,但使用二进制表示整数和小数的方法基本相同,比如小数点前和小数点后将个数位的数值和位全相乘的结果相加;浮点数是由符号尾数基数和指数构成的,接下来分别介绍,符号指使用一个数据位来表示数值的符号,尾数部分用的是将小数点前面的值固定为1的正则表达式,指数部分是EXCESS系统表现的;尾数部分使用正则表达式按照特定的规则表示数据的形式;如何避免计算机在计算小数时出现错误:1,根据程序目的不同,无视错误!2,把小数转化成整数计算,采用BCD方法。比如0.1这个数,计算机是用一种二进制格式存储小数的,这个二进制格式不能精确表示0.1,它只能表示一个非常接近0.1但又不等于0.1的一个数,数字都不能精确表示,在不精确数字上的运算结果不精确也就不足为奇了。

  避免计算机出现的错误有这两种方法:一就是回避策略,即无视这些错误。另一个呢就是把小数转换成整数来计算。

猜你喜欢

转载自www.cnblogs.com/LiangIT12138/p/10408526.html
今日推荐