这种类型又称财务类型,起源于有效数字问题。
FLOAT 单精度,有效数字7位。
有效数字是整数部分和小数部分加起来一共多少位。
当使用科学计数法的,FLOAT型会出现很严重的错误。
比如 877323457832 元钱。写为科学计数法
8.773234e11,还原回来 = 877323400000,损失了57832元。

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

                                                                       

                                      

                          

                                   

                          

            

 

相关文章:

  • 2022-12-23
  • 2022-12-23
  • 2021-09-26
  • 2022-12-23
  • 2022-12-23
  • 2021-09-28
  • 2022-12-23
猜你喜欢
  • 2021-05-16
  • 2022-01-08
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2021-06-30
  • 2021-08-24
相关资源
相似解决方案