使用 xgboost 进行分类时，如何获得置信区间或预测离散度的度量？

【问题标题】：How to obtain a confidence interval or a measure of prediction dispersion when using xgboost for classification?使用 xgboost 进行分类时，如何获得置信区间或预测离散度的度量？
【发布时间】：2023-03-20 19:14:01
【问题描述】：

使用xgboost进行分类时如何获得置信区间或预测离散度的度量？

那么例如，如果 xgboost 预测一个事件的概率是 0.9，那么如何获得该概率的置信度呢？

是否也假设这种置信度是异方差的？

【问题讨论】：

标签： machine-learning confidence-interval xgboost

【解决方案1】：

要为 xgboost 模型生成置信区间，您应该训练多个模型（您可以为此使用 bagging）。每个模型都会为测试样本产生一个响应 - 所有响应都将形成一个分布，您可以使用基本统计数据轻松计算置信区间。您应该为每个测试样本生成响应分布。

【讨论】：

我建议运行 100 个模型（越多越好）并检查 95% 的值的范围。响应变量是同方差的。
预测的均值和标准差与置信区间不同。
当然，预测的均值和标准差与置信区间不同——问题是如何计算置信区间，我为此提供了一个方法