张量流中卷积神经网络8位量化的量化方案

Question

Tensorflow code for quantization 从我为 CNN 量化参考的所有论文中，量化方案被表述为

步长 = 范围/255 此处为 8 位范围 = xmax-xmin 但如 tensorflow 实现中的图片所示

范围由 range = std::max(std::abs(*min_value), std::abs(*max_value));

给出

谁能告诉我区别或目的

Answer 1

这是因为您指向的代码用于对称量化，其中范围需要在 0 的两侧都相同。因此，该代码中的“范围”变量实际上是指整个浮点范围的一半。

例如，min_value = -1 max_value = 2

范围 = std::max(abs(-1), abs(2)) = 2

因此，该代码中的整个范围将是 -2 到 2。

希望这是有道理的！