Tensorflow：量化图不适用于 inception-resnet-v2 模型答案

【问题标题】：Tensorflow: Quantized graph not working for inception-resnet-v2 modelTensorflow：量化图不适用于 inception-resnet-v2 模型
【发布时间】：2017-11-10 04:52:03
【问题描述】：

我使用https://www.tensorflow.org/performance/quantization#how_can_you_quantize_your_models 对 inception-resnet-v2 模型进行了量化。冻结图的大小（量化输入）为 224.6 MB，量化图为 58.6 MB。我对某些数据集进行了准确度测试，其中冻结图的准确度为 97.4%，而量化图的准确度为 0%。

是否有不同的方法来量化 inception-resnet 版本的模型？或者，对于 inception-resnet 模型，根本不支持量化？

【问题讨论】：

标签： tensorflow conv-neural-network quantization resnet

【解决方案1】：

我认为他们从 quantize_graph 过渡到了 graph_transforms。试试这个：

https://github.com/tensorflow/tensorflow/tree/master/tensorflow/tools/graph_transforms

你在测试的时候输入节点/输出节点是用什么做的？

【讨论】：

我也尝试了 graph_transforms。不知何故，对于 resnet 模型，我也无法使用 graph_transform 获得成功的 quatized_graph。以下是供您参考的链接：stackoverflow.com/questions/44492936/…github.com/tensorflow/tensorflow/issues/10739 输入节点：我尝试使用 InputImage：0 以及 InputImage 输出节点：InceptionResnetV2/Logits/预测
@Namitha 我让它为 inception_resnet_v2 工作。您是否从源代码构建并运行 bazel 构建？但问题是它的运行速度较慢。
是的，我做到了。我从源代码进行了构建，然后运行了 bazel build。你什么时候试过这个？因为我不确定 tensorflow 源代码中的一些新更改是否对我造成了问题。我在 6 月中旬尝试过，但我遇到了让它工作的问题。如果我不给出 quantize_nodes，它可以工作，但精度为“0”。它会做非常随机的预测，这是完全不正确的。
我上周做了。我的猜测是您使用了错误的输入/输出节点？？对我来说，诀窍是在冻结图形时添加输入图像张量，并量化该图形。顺便说一句，我在 stackoverflow.com/questions/44492936/... github.com/tensorflow/tensorflow/issues/10739 中也遇到了与您类似的错误。我没有名为 QuantizedBilinearAdd 的 OP，但在从源代码再次构建后它就消失了。
我自己编写了python脚本来加载量化图并进行测试。