【发布时间】:2013-11-10 19:51:38
【问题描述】:
我正在尝试编写一些代码来计算 a 是否小于具有 n 位容差的 b,其中 a 和 b 是双精度变量。
例如,4.000000001 < 4.00000001 将是 TRUE,但 4.0000000001 < 4.000000001 将是 FALSE。 3.99999999 < 4.00000000 也将是 FALSE。另请注意,a 和 b 可能为负数。
【问题讨论】:
-
您是要比较某个容差,还是真的要比较前 n 位数字? 4.000000000
-
对不起,我措辞不正确。我的意思是说具有 n 位容差
-
你可以看看
eps。您可以获得适用于不同数据类型的各种容差(例如eps('single')) -
没有一个答案对我有用。
标签: matlab math precision numerical