sklearn 中 HistGradientBoostingRegressor 的参数 l2_regularization 可以包含哪些值答案

【问题标题】：What values could go into parameter l2_regularization for HistGradientBoostingRegressor in sklearnsklearn 中 HistGradientBoostingRegressor 的参数 l2_regularization 可以包含哪些值
【发布时间】：2021-08-28 22:42:28
【问题描述】：

我正在尝试调整 sklearn 中 HistGradientBoostingRegressor 的超参数，并且想知道 l2_regularization 的可能值是什么，对我有用的参数网格的其余部分如下所示 -

param_grid = {
    'learning_rate': [.1, .12],
    'max_iter': [1000, 1200],
    'min_samples_leaf': [15, 20],
    'max_depth': [None, 10, 20]
}

这里 0.12 和 1000 次迭代的学习率给出了足够好的结果。所以我想知道l2_regularization 的值是什么？他们.1, .2 是像学习率还是整数？据我了解，l2 是用于正则化惩罚以减少模型中的方差。如果我错了，请纠正我

【问题讨论】：

标签： python scikit-learn gradient-descent hyperparameters gridsearchcv

【解决方案1】：

确实，正则化是添加到损失函数中的约束。模型在最小化损失函数时也必须最小化正则化项。因此，这将减少模型方差，因为它不会过拟合。

l2_regularization 的可接受参数通常在0 和0.1 之间的对数刻度上，例如0.1, 0.001, 0.0001。

【讨论】：