【发布时间】:2017-11-29 02:23:50
【问题描述】:
比较浮点数和实数时遇到问题。以下是一些示例:
KDB 版本:2.7 (2012-02-20)
-
4.7e = 4.7f
输出:假原因:Kdb 将 4.7e 转换为 4.6999998e
所以,4.7e 输出:真
-
4.347e = 4.347f
输出:假
原因:4.347e 被转换为 4.3470001e
所以,4.347e>4.347f ---> 输出:真
我不确定这里发生了什么。你尝试的例子越多,你就会得到更多的答案。
【问题讨论】:
-
在此处查看关于 浮点 数字和算术主题的问题和答案。如果有人告诉您阅读 Goldberg 的论文每个计算机科学家都应该了解浮点运算的知识,请忽略它们。
标签: kdb