浮点数值计算会产生舍入误差,是使用基于IEEE754数值的浮点计算的通病

在js中,浮点数值的最高精度是17位小数,但在进行算术计算时其精确度远远不如整数。

var a=0.1;
var b=0.2;
alert(a+b);  //0.30000000000000004

永远不要测试某个特定的浮点数值。不要把浮点数等式作为if的条件

相关文章:

  • 2021-11-16
  • 2021-07-01
  • 2022-12-23
  • 2021-04-30
  • 2021-12-18
  • 2021-10-03
  • 2022-01-31
猜你喜欢
  • 2021-10-28
  • 2022-12-23
  • 2021-11-19
  • 2021-12-18
  • 2022-12-23
  • 2022-01-21
相关资源
相似解决方案