【发布时间】:2021-10-06 21:26:09
【问题描述】:
在根据 IEEE 754 标准的数字的单精度浮点表示中,我们使用 24 位作为尾数部分(23 位 + 1 个隐含位)。所以精度可以计算为 2^24 = 10^x 其中 x 可以通过将两边的 log 计算为 24log 2 = xlog 10 => x= 7.2 ~ 7。由此我们可以得出结论,十进制系统中的精度为 7,但值 7 表明我们有 7 个有效的小数位精度,或者我们有 7 个小数位的精度?它被认为是 7 个小数位(总共)还是小数点的 7 个小数位精度。
【问题讨论】:
-
It is not good to think of binary floating-point formats in decimal terms. 在得出“精度为 7”的结论之前,您必须先定义“精度”的含义。有不同的方法来定义精度。 IEEE-754“单一”格式足够精确,当范围内的任何六位十进制浮点数转换为二进制浮点格式并返回六位十进制浮点数时点号,结果等于起始号。有七位数的数字是不正确的。
-
IEEE-754“单一”格式当然不能保证小数点后七位精度,即小数点后七位。对于 2^24 以上的数字,只能表示整数; IEEE-754“单一”值在小数点后根本没有任何数字。
标签: floating-point binary precision ieee-754