BaggingClassifier 使用的分类器的调优参数

Question

假设我想训练使用DecisionTreeClassifier的BaggingClassifier：

dt = DecisionTreeClassifier(max_depth = 1)
bc = BaggingClassifier(dt, n_estimators = 500, max_samples = 0.5, max_features = 0.5)
bc = bc.fit(X_train, y_train)

我想使用GridSearchCV 来找到BaggingClassifier 和DecisionTreeClassifier 的最佳参数（例如max_depth 来自DecisionTreeClassifier 和max_samples 来自BaggingClassifier），这个的语法是什么?

Answer 1

如果您使用的是管道，那么您可以用类似这样的方式扩展接受的答案（注意双下划线）：

model = {'model': BaggingClassifier,
         'kwargs': {'base_estimator': DecisionTreeClassifier()}
         'parameters': {
             'name__base_estimator__max_leaf_nodes': [10,20,30]
         }}
pipeline = Pipeline([('name', model['model'](**model['kwargs'])])
cv_model = GridSearchCV(pipeline, param_grid=model['parameters'], cv=cv, scoring=scorer)

Answer 2

我自己找到了解决方案：

param_grid = {
    'base_estimator__max_depth' : [1, 2, 3, 4, 5],
    'max_samples' : [0.05, 0.1, 0.2, 0.5]
}

clf = GridSearchCV(BaggingClassifier(DecisionTreeClassifier(),
                                     n_estimators = 100, max_features = 0.5),
                   param_grid, scoring = choosen_scoring)
clf.fit(X_train, y_train)

即说max_depth“属于”__base_estimator，在这种情况下就是我的DecisionTreeClassifier。这有效并返回正确的结果。