【发布时间】:2010-10-26 17:33:02
【问题描述】:
我对浮点数的表示方式略知一二,但恐怕还不够。
一般问题是:
对于给定的精度(对于我来说,精确的小数位数以 10 为基数),对于 16 位、32 位和 64 位 IEEE-754 系统可以表示哪些数字范围?
具体来说,我只对精确到 +/-0.5(个位)或 +/-0.0005(千分位)的 16 位和 32 位数字的范围感兴趣。
【问题讨论】:
-
@bendin:是的,它存在。 en.wikipedia.org/wiki/Half_precision_floating-point_format
-
@bendin 甚至 8-bit or fewer float exists 并且经常在计算机科学课程中教授。它也用于ARM isntruction encoding。 10, 11, 14-bit floats also exist
标签: floating-point precision numerical ieee-754