如何解决这个糟糕的 BigDecimal 舍入？答案

【问题标题】：How can I fix this poor BigDecimal rounding?如何解决这个糟糕的 BigDecimal 舍入？
【发布时间】：2013-07-21 23:10:31
【问题描述】：

我在 java 中舍入 BigDecimals 时遇到了一些问题。我正在尝试将值从英尺转换为英寸，反之亦然，这就是我所拥有的：

//To convert from ft to in;
//...
BigDecimal CINCH = new BigDecimal("12");
Inch.setText(CINCH.multiply(VFEET).toString()); //VFEET is the user input

//To convert from in to ft
//...
BigDecimal CFEET = new BigDecimal("12"); //Initially I multiplied the input with 0.0833333333
Feet.setText(VINCH.divide(CFEET, 7, RoundingMode.HALF_UP).toString());  //VINCH is the user input

如果我尝试将 1 英尺转换为英寸，它会返回预期值 (12)。如果我尝试将 12 英寸转换为英尺，它会返回预期值 (1)，但会像我预期的那样使用 7 位小数。

如果我将 1 英寸转换为英尺，它会返回 0.08333333，如果我将此值从英尺转换为英寸，它应该返回 1，但它却返回 0.9999996。如果我将 2 英寸转换为英尺，则返回 0.1666667，如果我将此值从英尺转换为英寸，则返回 2.0000004

我该如何解决这个问题？（我知道我可以用双打来做到这一点，这是我的第一个计划，但我遇到了一个准确性问题（比这个更大））

【问题讨论】：

如何摆脱舍入，即使用 RoundingMode.UNNECESSARY？
双打实际上是测量的正确答案。小数应该用于具有精确数字数量的事物，例如财务价值。请参阅ericlippert.com/2013/07/18/…，尽管它并没有专门解决您的问题。
@Juvanis 我尝试使用 RoundingMode.UNNECESSARY...当我尝试转换时程序崩溃...（我尝试将 1 in 转换为 ft）
@tvanfosson 我尝试了双打，它确实有效！当我将 1 in 转换为 ft 并将返回值再次转换为 in 时，它返回了正确的值！它解决了它！我没有写在问题中，但是我在将 1 米（或 dm/cm/mm）转换为皮米时遇到了双打问题。
您可能想尝试使用Rational，它不会进行任何舍入

标签： java rounding bigdecimal

【解决方案1】：

不过，选择用于表示的数据类型应该反映要解决的潜在问题。通常对于测量，您会使用双精度数，因为测量的精度通常低于表示的精度。在这种情况下，表示中的错误不太重要。通常，您还将处理比例相似的测量值，其中两个值之间的差异不接近表示的精度。在您的情况下，您似乎需要比双精度表示的精度更高，但不希望数字显示为小数允许的精度。

一种可能的解决方案是在内部保持比您显示的更精确的值。无论类型如何，这都适用，但可以使用您的 decimal 示例轻松演示。例如（在 C# 中）

decimal f = 1m;
decimal i = f / 12m;

Console.WriteLine("{0} {1} {2} {3}", f, i, i * 12m, Math.Round(i * 12m, 7));

产生以下输出，您可以在其中看到通过显示更少的数字我们得到预期的答案

1 0.0833333333333333333333333333 0.9999999999999999999999999996 1.0000000

我的建议是以较高的精度进行算术运算，以较低的精度进行显示。在您的情况下，您正在以 7 的比例进行算术，因此您可能希望在输出中最多显示 6 位精度，或者相反将比例设置得更高，以便您可以显示与测量结果一样多的精度。

您可能也会觉得这很有帮助，Scale() of Divide method in BigDecimal

【讨论】：