【问题标题】:Why the results of decimal operation is incorrect?为什么小数运算的结果不正确?
【发布时间】:2015-10-08 07:22:19
【问题描述】:

我想用作小数点后 2 位的双精度值。但我认为我的值不正确。

1.965 = 必须是 1.97 但结果是 1.96

我累了他们:

DecimalFormat("0.00")DecimalFormat("#.##")NumberFormat.getInstance() / ..setMaximumFractionDigits(2)

但结果并没有改变。

谢谢..

    Log.e("Result:", String.format("%.2f", 1.965 )); // 1.96  < ?
    Log.e("Result:", String.format("%.2f", 1.975 )); // 1.98
    Log.e("Result:", String.format("%.2f", 1.955 )); // 1.96
    Log.e("Result:", String.format("%.2f", 1.9650 )); // 1.96 < ?
    Log.e("Result:", String.format("%.2f", 1.9651 )); // 1.97
    Log.e("Result:", String.format("%.2f", 1.966 )); // 1.97

【问题讨论】:

  • 您可能需要添加语言标签。
  • 我没有得到相同的结果:ideone.com/vzrOmn 请提供更多详细信息,如 jdk 版本、语言环境等?

标签: java android eclipse decimal


【解决方案1】:

原因在于浮点数在内部被表示的方式。它们的形式为(二进制尾数)* 2^(二进制指数)。通常,任何十进制数都不能完全以二进制形式表示,因此在计算该表示时已经进行了一些舍入。

简而言之,您的数字 1.965 很可能最终表示为比 1.965 略小的二进制浮点数,当您的程序将其四舍五入到小数点后 2 位时,您会得到这种意想不到的结果。

这里http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html 是对浮点运算陷阱的全面概述。

【讨论】:

  • 这里的奇怪之处在于,假设 IEEE 754 binary64 双打和四舍五入模式,1.965 实际上应该存储为1.9650000000000000799360577730112709105014801025390625,所以应该四舍五入。对我来说,这听起来像是一个草率的 format 实现。
  • 啊,我们在安卓上。这可以解释为什么存在导致非正确舍入字符串到双精度转换(将文字转换为双精度)或非正确舍入双精度到字符串转换(在格式化操作中)的快捷方式。
猜你喜欢
  • 1970-01-01
  • 2020-01-27
  • 1970-01-01
  • 2011-02-04
  • 2016-08-22
相关资源
最近更新 更多