【发布时间】:2017-11-18 10:42:58
【问题描述】:
说: 变量 x = 6.450000000000003; 变量 y = 5.234500000000002;
这些是浮点除法的结果,所以需要去掉3和2。考虑到它们具有不同的精度水平,我如何将 x 修整为 6.45 和 y 修整为 5.2345?
【问题讨论】:
-
您能否澄清一下:您是要更改变量中的值,还是要更改打印时显示的位数?如果是关于值本身,请记住并非所有数字都可以表示为浮点值,因此小数末尾会出现一些错误。
-
我看不出你的数字有不同的精度水平,我们不能从价值上看出这一点。您确定计算或测量的精度了吗?