Ruby数学运算的精度问题

Question

您知道如何解决以下数学精度问题吗？

p RUBY_VERSION # => "1.9.1"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.1
p 90.0%1 # => 0.0
p 90.1%1 # => 0.0999999999999943
p 900.1%1 # => 0.100000000000023

p RUBY_VERSION # => "1.9.2"
p 0.1%1 # => 0.1
p 1.1%1 # => 0.10000000000000009
p 90.0%1 # => 0.0
p 90.1%1 # => 0.09999999999999432
p 900.1%1 # => 0.10000000000002274

Answer 1

大十进制

正如man 所说；

将无限多个实数压缩为有限位数需要近似表示。

然而，我使用BigDecimal 类取得了巨大的成功。引用它的介绍

Ruby 提供了对任意精度整数运算的内置支持。例如：

42**13 -> 1265437718438866624512

BigDecimal 为非常大或非常精确的浮点数提供类似的支持。

举一个你的例子；

>> x = BigDecimal.new('900.1')
=> #<BigDecimal:101113be8,'0.9001E3',8(8)>
>> x % 1
=> #<BigDecimal:10110b498,'0.1E0',4(16)>
>> y = x % 1
=> #<BigDecimal:101104760,'0.1E0',4(16)>
>> y.to_s
=> "0.1E0"
>> y.to_f
=> 0.1

如您所见，确保不错的精度是可能的，但需要付出一些努力。

Answer 2

这适用于所有计算机语言，而不仅仅是 Ruby。这是在二进制计算机上表示浮点数的一个特性：

What Every Computer Scientist Should Know About Floating Point Arithmetic

Answer 3

将0.1 写入浮点总是会导致舍入错误。如果你想要“精确”的十进制表示，你应该使用Decimal type。