【问题标题】:TensorFlow - Different bit-width quantization between layersTensorFlow - 层之间的不同位宽量化
【发布时间】:2020-09-01 07:57:52
【问题描述】:

TensorFlow 是否支持层之间不同的位宽量化,或者是否必须在整个模型中执行相同的技术?

例如,假设我在n 层执行16-bit 量化。我可以在n+1 层执行8-bit 量化吗?

【问题讨论】:

    标签: python tensorflow tensorflow-lite quantization


    【解决方案1】:

    不,到目前为止,还没有选项可以为模型的不同层定义不同的 dtype

    根据tf.keras.layers.Layerdocumentation。这是所有层都继承的类。

    dtype - 图层计算和权重的 dtype(默认为 None 表示在 TensorFlow 2 中使用 tf.keras.backend.floatx,或者 TensorFlow 1) 中的第一个输入。

    【讨论】:

      猜你喜欢
      • 2023-03-08
      • 1970-01-01
      • 2017-04-03
      • 2019-03-29
      • 1970-01-01
      • 1970-01-01
      • 2019-06-16
      • 2016-11-16
      • 2019-01-31
      相关资源
      最近更新 更多