如何可视化按张量流分类的特征？

Question

我正在运行 imagenet 模型的默认 classify_image 代码。有没有办法可视化它提取的特征？如果我使用 'pool_3:0'，就会得到特征向量。有什么方法可以将其覆盖在我的图像之上，以查看它选择了哪些重要功能？

Answer 1

Ross Girshick 描述了一种可视化池化层所学知识的方法：https://www.cs.berkeley.edu/~rbg/papers/r-cnn-cvpr.pdf

本质上不是可视化特征，而是找到一些神经元最能激发的图像。您对特征向量中的几个或所有神经元重复此操作。该算法当然需要大量图像可供选择，例如测试集。

我今天在 Tensorflow 中为 cifar10 模型编写了这个想法的实现，我想分享（使用 OpenCV）：https://gist.github.com/kukuruza/bb640cebefcc550f357c

如果您设法提供用于批量读取图像的images 张量和pool_3:0 张量，则可以使用它。