【发布时间】:2011-07-15 22:06:58
【问题描述】:
我想知道在 Java 中修复精度错误的最佳方法是什么。正如您在以下示例中看到的那样,存在精度错误:
class FloatTest
{
public static void main(String[] args)
{
Float number1 = 1.89f;
for(int i = 11; i < 800; i*=2)
{
System.out.println("loop value: " + i);
System.out.println(i*number1);
System.out.println("");
}
}
}
显示的结果是:
循环值:11
20.789999
循环值:22
41.579998
循环值:44
83.159996
循环值:88
166.31999
循环值:176
332.63998
循环值:352
665.27997
循环值:704
1330.5599
另外,如果有人能解释为什么它只从 11 开始,并且每次都将价值翻倍。我认为所有其他值(或至少其中许多值)都显示了正确的结果。
这样的问题过去让我很头疼,我通常使用数字格式化程序或将它们放入字符串中。
编辑:正如人们所提到的,我可以使用双精度,但在尝试之后,似乎 1.89 作为双倍乘以 792 仍然会输出错误(输出为 1496.8799999999999)。
我想我会尝试其他解决方案,例如 BigDecimal
【问题讨论】:
-
double 和 float 都基于二进制系统 - 简单地说它们只是 b1* 1/2 + b2*1/4 + b3*1/8 ... bn/2^ 的总和n,它们永远不会精确地保持十分之一,因为你不能用有限数量的非零数字用二进制写下十分之一 (0.1) - 抱歉提到这些显而易见的事情
-
你不必使用盒装类
标签: java floating-point precision