【发布时间】:2021-06-12 16:14:09
【问题描述】:
来自 ULP Wikipedia's page(已添加重点):
所有现代浮点硬件都遵循的 IEEE 754 规范要求基本算术运算(自 1985 年以来的加法、减法、乘法、除法和平方根以及自 2008 年以来的 FMA)的结果正确舍入,这意味着在四舍五入到最接近的情况下,四舍五入的结果在数学上精确结果的 0.5 ULP 范围内,使用 John Harrison 的定义;
问题:从哪里可以看出上面强调的含义?
【问题讨论】:
-
在长度为 d 的线段 AB 上,该线段上任意点 P 与 A 或 B 中较近者的最远距离是多少?
-
正确,感谢您的提示。
标签: floating-point precision ieee-754 floating-accuracy