【问题标题】:Possible loss of precision during conversion of float number浮点数转换过程中可能会丢失精度
【发布时间】:2013-12-15 10:52:27
【问题描述】:

我有谷歌关于如何在 java 中获取浮点数的 2 位小数。以下是我的代码。最后在这里float totalWeight = 0.1*levinWeight+0.8*lsmWeight; 我得到了可能精度损失的错误?我想首先将字符串转换为浮点数,然后将其保留为小数点后 2 位。

float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;

【问题讨论】:

  • 不要使用浮点数。曾经。除非你有很多并且你知道它们可以以令人满意的精度表示你拥有的数字。由于您显然不知道这一点,因此这是使用 double 的一个很好的理由。

标签: java decimal floating-point-precision


【解决方案1】:

如果您担心精度

  • 不要使用float,它的精度是所有可用选项中最低的。我建议使用doubleBigDecimal
  • 使用涉及可以准确表示的值的操作。 0.1 * x 会给你错误,因为 0.1 不能精确表示。使用x / 10.0 会减少错误。

我会写这样的东西

double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.

// to round to two decimal places 
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;

【讨论】:

  • 如何得到小数点后2位?
  • 我正确地得到了最后 2 个小数的舍入 DecimalFormat df = new DecimalFormat("#.##"); String totalWeightValue = df.format(totalWeight);
  • @user2711681 这将比使用舍入既复杂又慢。请参阅我更新的示例。
  • 如何仅通过潜水 100.0 来确保 2 位小数?
  • @user2711681 它先乘以 100,然后四舍五入,然后除以 100.0。这使您可以精确到 0.01 的最接近倍数
【解决方案2】:
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);

【讨论】:

    【解决方案3】:

    如果您真的想这样做,请使用 BigDecimal。这些浮点类非常适合精度。看看他们:

    默认的 IEEE 746 浮点数不能满足您的需要。或者,您可以使用整数并将它们线程化因子 100。所以:

    • 100 相当于 1.00
    • 452 等价于 4.52
    • 1 相当于 0.01

    【讨论】:

      猜你喜欢
      • 2011-08-24
      • 1970-01-01
      • 1970-01-01
      • 2011-05-26
      • 2014-09-28
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多