解释多人感知器的内部特征

【问题标题】：Interpreting internal features of Multiplayer Perceptrons解释多人感知器的内部特征
【发布时间】：2017-11-10 15:23:05
【问题描述】：

我已经针对医学成像分类任务（分类超声扫描图像属于健康状况还是疾病状况）训练了多人感知器。该网络由 2 个全连接隐藏层和 1 个输出单元组成。然后我想检查权重，看看图像中的哪些特征（例如像素簇）对于网络区分不同类别最重要。由于我的网络有两层隐藏权重，如何使用这些权重来量化每个图像像素的重要性？有经验的人可以为我指出正确的文献吗？谢谢。

【问题讨论】：

标签： machine-learning deep-learning perceptron

【解决方案1】：

“其他作者已经描述了几种寻找显着性的方法。其中包括敏感性基于方法 [4, 5, 6]，基于反卷积的方法 [7, 8]，或更复杂的方法，例如逐层相关传播（LRP）[9]。”

来源：https://arxiv.org/pdf/1704.07911.pdf

他们正在做你想做的事，但有了 CNN，也许你应该从 MLP 转到 CNN，这似乎适合医学成像分类。

或许这篇论文更适合：

Randomization approach for understanding variable contributions in artificial neural networks

【讨论】：

我使用 MLP 而不是 CNN 的原因是我想看到一些图像特征图而不是 CNN 会产生的局部过滤器。但是关于随机化测试的论文似乎很有趣并且很有帮助。感谢您的回答。