我正在从事一个机器学习项目，我需要在该项目中训练一个模型来对各种输入对象进行分类；为简单起见，假设我正在尝试创建一个模型，该模型可以将图像分类为包含猫或狗。
但是，我不仅对这些对象的分类感兴趣，而且对理解为什么算法将图像分类为狗或猫感兴趣。决策树允许非常好的可视化，它描述了为什么一个示例会根据示例的特征以一种或另一种方式分类，如下所示：
我是机器学习的新手，所以不熟悉许多学习算法的工作原理；是否有任何其他算法可以实现可视化（或信息），从而可以根据示例特征对输入示例为何以一种或另一种方式进行分类提供一些见解？
【问题讨论】：
标签： machine-learning classification visualization
有一种这样的可视化工具（用于神经网络）可以帮助您可视化特定参数如何影响输出分类。它可能会让您直观地了解网络如何准确地对特定标签进行分类。 你可以在这里查看： http://playground.tensorflow.org/
由于任何线性和复杂的非线性分类器始终可以表示/转换为神经网络，因此它可以帮助您更好地进行泛化。
【讨论】：
已经为深度学习模型开发了几种强大的可视化方法，特别是可视化图像分类是一个经过充分探索的领域。仅举几个可能的方法：
以上链接来自 Keras 文档。这些方法的原始研究论文链接在文档中——Keras 很好地提供了高层次的解释，如果您想了解更多详细信息，可以深入研究论文。
我不确定您使用什么来构建模型，但 Keras 提供了一些出色的可视化工具来实现这些方法。我在这里写了一篇关于使用 Grad-CAM 可视化学习过程的博客文章；它可能会提供更多上下文，并且还有一个指向工作代码示例的链接：http://innolitics.com/10x/visualizing-image-classification/。
【讨论】：