1.貌似累加会因误差,得到的数字逐渐减小

    float f = 0.1;
    float sum = 0;
    for( i=0; i<4000000; i++)
    {
        sum += f;
    }

理论上得到的sum应该是40万,但是计算得到的结果是384524.781250!!

 

float f = 0.1;
float sum = 0;
for( int i=0; i<2000; i++)
{
float tmp_sum =0;
for (int j = 0;j<2000;j++)
tmp_sum+=f;
    sum += tmp_sum;
}
这样精度会高很多

原因在于一个特别大的数加一个特别小的数会产生较大的误差,而差不多的数相加误差较小。

用*100后来再/100的方式可以减少误差

相关文章:

  • 2021-06-21
  • 2022-01-14
  • 2021-10-31
  • 2021-04-14
  • 2022-01-07
  • 2021-06-25
  • 2021-08-15
  • 2022-12-23
猜你喜欢
  • 2021-08-24
  • 2021-09-15
  • 2021-09-10
  • 2021-12-27
  • 2022-12-23
  • 2022-12-23
  • 2021-07-22
相关资源
相似解决方案