浮点到长转换错误[重复]

Question

我猜这是由于浮点数和准确性，但我只是想检查以确保我没有遗漏任何其他内容。

我有一个 1007.62 的浮点数（存储在 info.Amount 中），它乘以 100 并转换为 long。此时我得到的值为 100761。

这只是我们在应用双精度时遇到的旧的舍入错误吗？我认为可能发生这种情况的唯一方法是，如果它实际上存储为 1007.6199999999999 （但出于显示目的四舍五入）。然后在乘法转换为 long 忽略小数点后的所有内容？

Answer 1

您可以改用Convert.ToInt64。这会产生正确的值。

LinqPad-测试代码：

float z = 1007.62f;
z.Dump();

float x = z *100;
x.Dump();

long l = (long) (z*100);
l.Dump();

l = Convert.ToInt64(z*100);
l.Dump();

l = Convert.ToInt64(x);
l.Dump();

结果是：

1007,62
100762
100761
100762
100762

强制转换 (long) (z*100) 使用 CIL 指令 conv.i8 转换为 Int64，将 Int64 压入堆栈，而 Convert.ToInt64 使用 Math.Round(double) 转换/强制转换为 Int64。

关于conv.i8的特别说明是

从浮点数转换为整数值会截断 数字趋近于零。

Answer 2

实际上我认为这是由于您可能声明的变量。

采取以下示例：

       double amount = 1007.62;
       long result = (long) (amount*100);

结果绝对是 100762，没有任何分数或圆度。事实上，1007.62 是一个双精度数，不应存储为浮点数，这可能会导致像您的情况这样的进一步问题。