C#
static void Main(string[] args)
{
double a = 3.7;
double b = 3.0;
double c = a - b;
Console.WriteLine(a
- b);
Console.WriteLine(c);
Console.Read();
}

 

 

 上面两行代码相减后出现c的值错误的问题 打印出来的值都是0.7

两个双精度数相减后尾数错误的问题

然后对c监控的时候发现c的值不是0.7

两个双精度数相减后尾数错误的问题

这个问题非常的怪异 用a=3.5是正确的答案  用3.6  3.61 3.7 ……就出现了误差。

怪异啊

相关文章:

  • 2022-12-23
  • 2021-08-31
  • 2022-12-23
  • 2022-12-23
  • 2021-11-23
  • 2021-07-27
  • 2022-12-23
  • 2021-09-24
猜你喜欢
  • 2021-11-07
  • 2022-02-24
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-10-10
相关资源
相似解决方案