【发布时间】:2018-08-15 15:05:32
【问题描述】:
- 平台:带有 RStudio Server 的 AWS 实例上的 Redhat Enterprise 7.5。
- 可重现的代码:对于没有提供代码,我提前道歉,因为如果我将函数简化为可重现的函数,我知道它会起作用并产生预期的结果。
- 案例:
- 我有一个使用 Rcpp 用 C++ 编码的函数,该函数包括除以一些非常少量的减法的乘积。例如,它首先执行一些减法,如 (.0012345678 - .0012345677),然后根据这个例子,函数应该除以 .0000000001,但函数会截断减法中的数量 (.001234 - .001234) 并产生零,因此 inf 作为除以零的输出。
- 我的问题是:在 Rcpp 设置中有什么我应该注意的,以使其产生至少 15 位小数,这样减法就不会产生 inf 或 nan。我编写了另一个小得多的函数,它工作得很好。但是,无论我做什么,更大的函数都会截断进入除法和减法的双精度数据类型数字。
【问题讨论】:
标签: r decimal rcpp truncate digits