【发布时间】:2021-04-18 07:44:38
【问题描述】:
除了内存使用和磁盘使用,float16 计算会比 Pandas 数据帧中的 float32 计算更快吗?如果是这样,我应该期待多少性能?
【问题讨论】:
标签: python pandas performance dataframe optimization
除了内存使用和磁盘使用,float16 计算会比 Pandas 数据帧中的 float32 计算更快吗?如果是这样,我应该期待多少性能?
【问题讨论】:
标签: python pandas performance dataframe optimization
float16 计算 比 float32 慢得多,这是因为 c 中没有等效的 float16。
由于python是基于c的,因为c中没有对应的,numpy创建了一个方法来执行float16。
(float 是一个 32 位 IEEE 754 单精度浮点数,符号 1 位,(指数 8 位,值 23*),即 float 有 7 位小数精度)
因为这个(相当于在float16上工作的过程)float16比float32或float64慢
【讨论】: