【问题标题】:Floating Point numbers number accuracy distribution浮点数数精度分布
【发布时间】:2017-02-19 10:54:52
【问题描述】:

首先我只想声明我已阅读this 讨论。

浮点在所有可能值上是否一致不准确?还是随着值离 0 越来越远,误差会增加?

【问题讨论】:

    标签: language-agnostic precision


    【解决方案1】:

    要理解这一点,您需要清楚地确定您所说的准确性。它通常是计算中发生的错误的度量,我怀疑您不会只考虑相关浮点格式的计算。

    这些都是您问题的答案:

    • 浮点数的精度(以有效位数表示)在大部分范围内都是恒定的。 (仅对于非正规数,精度会随着数字变小而降低。)
    • 浮点运算的准确度通常受到精度的限制,因此在该范围内基本保持不变。请参阅上一点。
    • 将十进制数转换为二进制浮点数的准确度对于整数将高于带有小数部分的数字。这是因为整数可以表示为 2 的幂的倍数,而小数不能表示为 2 的负幂的倍数。 (典型的例子是0.1成为二进制浮点中的重复分数)。

    最后一点的结果是,当您从科学计数法中稍大的十进制数开始时,例如1.123*10^4,它们与整数具有相同的值,因此可以准确地转换为二进制浮点数。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2020-02-03
      • 1970-01-01
      • 2018-02-23
      • 1970-01-01
      • 2010-12-26
      • 2015-07-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多