选择反映python中每个结果类的影响因素的分类模型

Question

我正在研究具有多个分类预测变量的多项响应数据集。

我选择在 Python 上运行分类随机森林，效果很好。我能够获得最重要的影响因素及其部分图。

我无法确定哪些预测变量对哪个结果的贡献最大，并意识到 RF 可能不是了解预测变量和多个结果之间动态关系的最合适模型。 我希望你能提出其他模型来反映结果和预测变量之间的动态。 谢谢

Answer 1

您可以很好地使用 RF，并且仍然可以通过使用包 eli5 来了解每个功能对做出预测的正面/负面贡献。我已经解释了如何通过获取 iris 数据集来利用包来做同样的事情。

import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from eli5 import show_prediction, show_weights

df = pd.read_csv("./Data/iris.csv")
df.head()

    Sepal   Petal   Width   Height  Class
0   5.1      3.5    1.4      0.2    Iris-setosa
1   4.9      3.0    1.4      0.2    Iris-setosa 
2   4.7      3.2    1.3      0.2    Iris-setosa
3   4.6      3.1    1.5      0.2    Iris-setosa
4   5.0      3.6    1.4      0.2    Iris-setosa

x = df.drop("Class", axis=1)
Y = df["Class"]

clf = RandomForestClassifier(n_estimators=100, max_depth=2,
                       random_state=0)
clf.fit(x,Y)

现在让我们使用eli5 来解决问题。假设我想得到每个因素对数据点x.loc[1]的贡献

show_prediction(clf, x.loc[1], show_feature_values=True)

这就是你会得到的

此示例的预测标签为Iris-setosa，width 是预测为Iris-setosa 的主要原因。同样，当您查看其他两列时，您也会了解为什么数据点没有被归类为其他类别。如果您想要更通用的解释，请使用show_weights，如下所示

show_weights(clf, feature_names = X.columns.values)

eli5 不仅适用于射频，还适用于一大堆其他型号，请参阅eli5 documentation 了解更多详情。

希望这会有所帮助！