fp16和fp32

float ： 1个符号位、8个指数位和23个尾数位

 

利用fp16 代替 fp32

优点：

1）TensorRT的FP16与FP32相比能有接近一倍的速度提升168，前提是GPU支持FP16（如最新的2070,2080,2080ti等）

2）减少显存。

 

缺点：

1） 会造成溢出

 

因此，在日常使用过程中，常使用双混合精度训练。如图：

此过程中的技术：

1） Loss scaling  ：会存在很多梯度在FP16表达范围外，我们为了让其落入半精度范围内，会给其进行等比放大后缩小。

流程：