【发布时间】:2011-07-26 12:33:03
【问题描述】:
Monniaux 的优秀文章"The Pitfalls of Verifying Floating Point Arithmetic" 给出了一些意想不到的数值行为的例子。但是,大多数示例都依赖于扩展精度 FPU 或扩展精度运算(例如乘法累加)。除了带符号的零和涉及 NaN 的比较之外,当扩展精度硬件被禁用时,还有什么令人惊讶的数值行为的好例子吗?
【问题讨论】:
标签: floating-point ieee-754 numerical numerical-methods numerical-analysis