【问题标题】:Numerical pitfalls without extended precision FPUs没有扩展精度 FPU 的数值陷阱
【发布时间】:2011-07-26 12:33:03
【问题描述】:

Monniaux 的优秀文章"The Pitfalls of Verifying Floating Point Arithmetic" 给出了一些意想不到的数值行为的例子。但是,大多数示例都依赖于扩展精度 FPU 或扩展精度运算(例如乘法累加)。除了带符号的零和涉及 NaN 的比较之外,当扩展精度硬件被禁用时,还有什么令人惊讶的数值行为的好例子吗?

【问题讨论】:

    标签: floating-point ieee-754 numerical numerical-methods numerical-analysis


    【解决方案1】:

    程序员经常感到惊讶的一个例子是x + 1 == x。在单精度浮点中,x 小至 2^25 也是如此,因为尾数的精度有限。当模拟中的时间值增加一个小时间步长时,通常会出现这种情况。一个similar problem影响了爱国者导弹。

    【讨论】:

    • 是的,很好的例子。我要指出的是,对于具有不同指数的任何两个数字,都会出现这种精度损失:当指数具有足够不同的大小时,会完全吸收其中一项。
    猜你喜欢
    • 2018-03-25
    • 2012-01-10
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2010-11-27
    • 1970-01-01
    相关资源
    最近更新 更多