浮点型简单讲就是实数的意思。浮点数在计算机中用以近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到;但用浮点数真的可以准确表示实数吗?让我们来研究研究吧。

如下图代码所示,理论上我们输出的数字应该是4000,但结果确是4001.552979,这就说明float浮点数是存在误差的

关于float浮点数的误差分析

关于float浮点数的误差分析

那么这些误差值是为何而来呢

其实那是因为精度越来越高,占字节数越多,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题,所以便存在误差值。我们没有办法彻底消除这些误差值,但我们可以通过一些方法是这些误差值变小从而不影响我们的使用。

我们可以通过宏定义的方式来减小误差,如下图所示

关于float浮点数的误差分析

这样一来我们便使误差减小到了0.000001,这个误差就不会我们正常使用浮点数。

 

相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2021-10-03
  • 2022-12-23
  • 2021-10-28
  • 2022-12-23
  • 2022-01-31
猜你喜欢
  • 2021-11-16
  • 2021-08-19
  • 2021-04-30
  • 2022-12-23
  • 2021-08-27
  • 2021-12-06
  • 2022-12-23
相关资源
相似解决方案