【问题标题】:Can't convert 0.3 to IEEE754无法将 0.3 转换为 IEEE754
【发布时间】:2016-05-09 04:40:09
【问题描述】:

我正在尝试将 0.3 转换为 IEEE754 格式。 我得到的是:0011111010011001100110011001 1001,但是 我应该得到的是:0011111010011001100110011001 1010。如您所见,最后 4 位数字不同。我将 0.3 乘以 2 直到找到句点,然后在尾数中填充 001 后,在尾数的其余部分中填充句点 (1001)。我做错了什么?

【问题讨论】:

    标签: binary floating-point numbers point ieee


    【解决方案1】:

    你必须四舍五入,而不是截断。在第 25 位,模式继续:10011001... 由于第 25 位及以上是 > 1/2 ULP,因此您必须四舍五入。这会给你你所期待的答案。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2016-03-08
      • 1970-01-01
      • 2021-01-14
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2023-04-07
      • 1970-01-01
      相关资源
      最近更新 更多