随机森林的特定交叉验证

Question

我正在使用带有 scikit learn 的随机森林。 RF 过拟合数据，预测结果很差。

过拟合不依赖于 RF 的参数： NBtree, Depth_Tree

过拟合发生在许多不同的参数上（在 grid_search 中测试过）。

补救措施： 我调整了初始数据/下采样了一些结果 为了影响拟合（手动预处理噪声样本）。

Loop on random generation of RF fits, 

Get RF prediction on the  data for prediction
Select the model which best fits the "predicted data" (not the calibration data).

这个蒙特卡洛斯非常消耗， 只是想知道是否还有其他方法可以做 随机森林的交叉验证？ （即不是超参数优化）。

已编辑

Answer 1

在 scikit-learn 中使用任何分类器进行交叉验证真的很简单：

from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import cross_val_score
import numpy as np

clf = RandomForestClassifier() #Initialize with whatever parameters you want to

# 10-Fold Cross validation
print np.mean(cross_val_score(clf, X_train, y_train, cv=10))

如果您希望运行网格搜索，您可以通过 GridSearchCV 类轻松实现。为此，您必须提供param_grid，根据文档，它是

以参数名称（字符串）作为键和列表的字典 尝试作为值的参数设置，或此类字典的列表， 在这种情况下，列表中每个字典跨越的网格是 探索了。这可以搜索任何参数序列 设置。

所以也许，您可以按如下方式定义您的 param_grid：

param_grid = {
                 'n_estimators': [5, 10, 15, 20],
                 'max_depth': [2, 5, 7, 9]
             }

那么就可以如下使用GridSearchCV类了

from sklearn.model_selection import GridSearchCV

grid_clf = GridSearchCV(clf, param_grid, cv=10)
grid_clf.fit(X_train, y_train)

然后您可以使用grid_clf. best_estimator_ 获得最佳模型，使用grid_clf. best_params_ 获得最佳参数。同样，您可以使用grid_clf.cv_results_

获取网格分数

希望这会有所帮助！