【发布时间】:2018-10-24 03:59:08
【问题描述】:
我正在阅读什么Every Computer Scientist Should Know About Floating Point。
ulps 的概念似乎很简单。然而,在一个早期的例子中,作者提出了一个声明(在 Guard Digits 部分)
即,当比较计算值时:(0.02 x 10) 与计算 (10.1 - 9.93) 的真实值 (0.17) strong>,误差为 30ulps。
根据论文前面给出的公式,错误应该是:
|0.02 - 0.017| * 100 = 0.3ulps,这对我来说很有意义。
显然,我在这里遗漏了一些相当重要的东西。
【问题讨论】:
标签: floating-point