【问题标题】:Cython precision and data typesCython 精度和数据类型
【发布时间】:2016-03-11 12:44:36
【问题描述】:

我知道在 cython 中会丢失一些精度,因为 cython 浮点数与 python 浮点数不同。因此,我重新定义了一个变量,如下所示:

cdef long double variable=1*10**-10
print variable
0.0

然而这失败了:

cdef long double variable=0.0000000001
print variable
1e-10

成功了。我需要执行相对精确的计算,所以我很想了解这种行为。

【问题讨论】:

  • 您可能想要检查交叉编译的输出。
  • 如果添加小数点会怎样(例如 1.*10.**-10. )?

标签: python types cython


【解决方案1】:

看这里,这个错误似乎已在 Cython 3.0 中修复

https://github.com/cython/cython/issues/2133

【讨论】:

    猜你喜欢
    • 2017-08-24
    • 2018-10-19
    • 1970-01-01
    • 1970-01-01
    • 2015-02-20
    • 2018-05-07
    • 1970-01-01
    • 2014-02-15
    • 2021-03-24
    相关资源
    最近更新 更多