【发布时间】:2015-11-28 20:53:58
【问题描述】:
在 R 软件中
a <- 123456789123456789123456789
sprintf("%27f",a)
#[1] "123456789123456791337762816.000000"
我答错了。我想要准确的 a 值。
为什么系统显示a的错误值?
【问题讨论】:
-
同时检查here
-
正如this comment 中解释的(在重复问题下),使用
gmp::as.bigz()时不要忘记传递一个字符。
标签: r algorithm precision floating-point-precision