【发布时间】:2017-02-19 10:54:52
【问题描述】:
首先我只想声明我已阅读this 讨论。
浮点在所有可能值上是否一致不准确?还是随着值离 0 越来越远,误差会增加?
【问题讨论】:
标签: language-agnostic precision
首先我只想声明我已阅读this 讨论。
浮点在所有可能值上是否一致不准确?还是随着值离 0 越来越远,误差会增加?
【问题讨论】:
标签: language-agnostic precision
要理解这一点,您需要清楚地确定您所说的准确性。它通常是计算中发生的错误的度量,我怀疑您不会只考虑相关浮点格式的计算。
这些都是您问题的答案:
最后一点的结果是,当您从科学计数法中稍大的十进制数开始时,例如1.123*10^4,它们与整数具有相同的值,因此可以准确地转换为二进制浮点数。
【讨论】: