【发布时间】:2012-02-09 05:57:28
【问题描述】:
【问题讨论】:
-
引用 Wikipedia article 关于该主题的内容,“无论精度如何,某些数字(例如 1/3 和 0.1)都无法以二进制浮点数精确表示。”
-
这是一个常见问题,与浮点表示的一般计算机科学主题有关,而不是目标 c。我将标记许多重复的问题之一。
-
至于为什么
NSLog与gdb的打印不同,32 位浮点数对于大约 7 位精度来说是好的。因此,NSLog似乎在第七位之后截断以提供更有意义的输出,而gdb显示存储在变量中的确切值而不考虑精度。有趣的是,我认为人们可能会争辩说这两种行为在其特定背景下都是正确的。 -
这对 Javascript 和 Java 有影响吗,还是问题“虚拟化了”?
-
@Yar C、C++、C#、Java、JavaScript 等同样的问题
标签: objective-c math gdb