matlab中的舍入误差

  • 问题背景
    用matlab生成的以0.2为间隔的等差数列,居然会多0.000000000000001。导致在使用"=="或“>="含有等于的关系运算符时,结果一直存在问题。
    在这里插入图片描述

  • 数值计算中舍入误差
    数值计算中的误差分为两种截断误差与舍入误差,舍入误差是在于当计算机用二进制数表示十进制数时,会存在舍入误差。计算机表示的十进制数准确来将是一个十进制区间(注意是左闭右开区间)

参考:
MATLAB舍入误差和IEEE754标准深入分析_MATLAB技术论坛_新浪博客: http://blog.sina.com.cn/s/blog_61c0518f0100f6h0.html

猜你喜欢

转载自blog.csdn.net/Hollybobo79/article/details/85097174