如何从深度 CNN 输出创建不确定性彩色图图像？答案

【问题标题】：How do I create uncertainty color map image from deep CNN output?如何从深度 CNN 输出创建不确定性彩色图图像？
【发布时间】：2018-06-19 07:42:43
【问题描述】：

我正在设计一个用于城市特征检测的深度 CNN 分类器。大多数情况下，我的网络会正确分类和分割建筑物，但很多时候它会因为照明/外观相似等与其他对象混淆。

我想创建一个颜色图以及可以代表某个分类器的分割图像？我已经使用 softmaxwith loss 来训练网络。

layer {
  name: "score"
  type: "Deconvolution"
  bottom: "pool_3"
  top: "score"
  convolution_param {
    num_output: 2
    bias_term: false
    pad:2
    kernel_size: 8
    stride: 4
  }
}

我期待类似于此彩色地图图像的输出：

我的问题是

如何计算不确定性？
在计算不确定性时如何处理负值？

注意：目前，我可以使用熵获取颜色图。

【问题讨论】：

标签： neural-network statistics deep-learning probability conv-neural-network

【解决方案1】：

您可能想要执行一个遮挡敏感度实验，该实验允许构建最重要图像区域的热图。

来自this answer on AI StackExchange：

这就是想法。假设 ConvNet 将图像分类为狗。我们如何确定它实际上是在捕捉图像中的狗，而不是来自背景或其他杂项对象的一些上下文线索？

调查某个分类预测来自图像的哪一部分的一种方法是将感兴趣的类别（例如狗类别）的概率绘制为遮挡物对象位置的函数。如果我们遍历图像的区域，将其替换为全零并检查分类结果，我们可以构建一个二维热图，其中包含对特定图像的网络最重要的内容。

【讨论】：