【发布时间】:2020-09-01 07:57:52
【问题描述】:
TensorFlow 是否支持层之间不同的位宽量化,或者是否必须在整个模型中执行相同的技术?
例如,假设我在n 层执行16-bit 量化。我可以在n+1 层执行8-bit 量化吗?
【问题讨论】:
标签: python tensorflow tensorflow-lite quantization
TensorFlow 是否支持层之间不同的位宽量化,或者是否必须在整个模型中执行相同的技术?
例如,假设我在n 层执行16-bit 量化。我可以在n+1 层执行8-bit 量化吗?
【问题讨论】:
标签: python tensorflow tensorflow-lite quantization
不,到目前为止,还没有选项可以为模型的不同层定义不同的 dtype。
根据tf.keras.layers.Layer 的documentation。这是所有层都继承的类。
dtype - 图层计算和权重的 dtype(默认为 None 表示在 TensorFlow 2 中使用 tf.keras.backend.floatx,或者 TensorFlow 1) 中的第一个输入。
【讨论】: