【发布时间】:2013-10-11 04:10:04
【问题描述】:
wiki文章目前对半精度浮点整数范围(16位)有非常清晰的描述:
0到2048之间的整数可以精确表示..... 2049 到 4096 之间的整数舍入为 2 的倍数(偶数)..... 4097 和 8192 之间的整数舍入为 4 的倍数..... 8193 和 16384 之间的整数舍入为 8 的倍数..... 16385 到 32768 之间的整数舍入为 16 的倍数..... 32769 和 65536 之间的整数舍入为 32 的倍数..... 等于或大于 65520 的整数舍入到“无穷大”......
但是,对于定点整数,我在网上找不到有关整数范围的实用信息,它可以表示精确到 32 的整数? 64?
它说半精度,0 01111 0000000001 = 1 + 2−10 = 1.0009765625(1 之后的下一个最小浮点数)
有人能说出定点数据类型的等效小数吗?尤其是在 CG 代码中。
谢谢!
【问题讨论】:
-
我找到了一点信息:fixed:低精度定点。通常为 11 位,范围为 -2.0 到 +2.0 和 1/256 精度......除了它本质上是一个整数,我在其他地方读到。所以在 GPU 上必须高于 2?
标签: integer opencl gpu nvidia type-conversion