统计模型 - 微不足道的特征转换

Question

我正在研究 UCI 帕金森数据库 https://archive.ics.uci.edu/ml/machine-learning-databases/parkinsons/ 当我使用统计模型运行逻辑回归时，所有特征都显得微不足道，需要建议来转换特征。

logit = sm.Logit(y, X_std) result = logit.fit() print(result.summary())

模型准确率高达 85%，但这没有任何意义，因为所有特征都无关紧要。

请帮忙

Answer 1

您的样本量不够大，无法可靠地估计这么多参数。如果解释变量之间存在相关性，那么即使它们共同具有预测能力，它们也可以单独统计不显着。

变量这么多，最好使用惩罚性估计，或者使用某种方法进行特征选择，以减少参数数量并获得更可靠的估计。