【问题标题】：Finding reasons/rules for prediction寻找预测的原因/规则
【发布时间】：2017-06-01 00:05:26
【问题描述】：
我是机器学习的新手。我有一个要求，我想预测具有 2 个值（Y 和 N）的属性的值，我正在使用分类模型。我有 10-15 个功能来创建模型。在预测期间，我想说明为什么（规则）我做出那个预测。如果我使用决策树算法，我可以看到一些规则，但如果我使用其他分类算法，如 SVM 或朴素贝叶斯，我无法找到任何规则。
我有两个问题：
1. 有没有办法找到所有算法的规则？
2. 这是一个不常见的要求吗？
【问题讨论】：
标签：
machine-learning
classification
prediction
【解决方案1】：
不，您无法找到适用于所有算法的规则；许多不以简单的形式提取。例如，SVM 中的“高斯核技巧”和神经网络中的中间层不适合易于阅读的规则。
不，需要人类可读形式的决策算法并不常见：大多数时候，我们不在乎，因为我们不会自己计算结果。相反，我们保存经过训练的模型（任何类型/算法）并将其部署以供一般使用。我们不需要“在盒子里看”就能看到答案的细节。
事实上，对于 CNN（或除最简单的神经网络之外的任何神经网络），该答案的计算量非常复杂，以至于对人类大脑来说几乎毫无用处：参数和非线性部分太多。