【问题标题】:Programmer's tale about float and double datatypes程序员关于浮点数和双精度数据类型的故事
【发布时间】:2020-05-12 05:47:40
【问题描述】:

几年前我听说过一个关于如何使用 float 数据类型(而不是 double 或者更好的是 big integers 的故事) 因为精准而破产了一些股票市场公司。财务结果计算不准确,显示出一些不错的结果,但实际上公司(?)已经破产了。不过,它可能是一家银行。

有人知道这个故事吗?如果是,我在哪里可以找到更多详细信息?我记不起足够的细节,无法在互联网上进行适当的搜索。

【问题讨论】:

  • 对货币使用double 而不是float 只会延迟问题。应该使用某种固定(小数)点整数。这个问题对于这个网站来说听起来很离题(但不确定是否有一个更适合它的 SE 网站)

标签: floating-point programming-languages precision currency


【解决方案1】:

【讨论】:

  • 所以这根本不是floatdouble 的问题或浮点问题。维基百科说价格是计算出来的,然后截断到小数点后三位。这会产生平均 0.0005 的舍入误差,无论底层算术是浮点数、定点数、完美的真实数学还是伏都教。每天做 3000 次,平均每天 1.5 分。 20 个工作日/月给 30 点/月,接近文章所说的 25/月。
猜你喜欢
  • 2015-02-20
  • 2011-10-24
  • 2013-12-27
  • 2018-02-23
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2010-12-19
  • 1970-01-01
相关资源
最近更新 更多