【发布时间】:2013-03-12 03:20:18
【问题描述】:
我试图理解Matlab 中的双精度数字。为什么这个 1 - 3*(4/3 - 1) 不等于零?
【问题讨论】:
-
我未经证实的猜测是,由于双打的底层表示,它被计算为 2.22044604925031E-16。
-
另见 Matlab 帮助中的“eps”
-
你可能有兴趣阅读我的文章“答案是一个(除非你使用浮点)”:exploringbinary.com/…
标签: matlab floating-point floating-accuracy ieee-754 double-precision