使用 sklearn cross_val_score 和 kfolds 来拟合和帮助预测模型

Question

我正在尝试了解如何使用 sklearn python 模块中的 kfolds 交叉验证。

我了解基本流程：

• 实例化一个模型，例如model = LogisticRegression()
• 拟合模型，例如model.fit(xtrain, ytrain)
• 预测例如model.predict(ytest)
• 使用例如cross val score 以测试拟合模型的准确性。

我感到困惑的是使用带有交叉 val 分数的 sklearn kfolds。据我了解，cross_val_score 函数将拟合模型并预测 kfolds，为您提供每个折叠的准确度分数。

例如使用这样的代码：

kf = KFold(n=data.shape[0], n_folds=5, shuffle=True, random_state=8)
lr = linear_model.LogisticRegression()
accuracies = cross_val_score(lr, X_train,y_train, scoring='accuracy', cv = kf)

因此，如果我有一个包含训练和测试数据的数据集，并且我使用带有 kfolds 的 cross_val_score 函数来确定每个折叠的训练数据上算法的准确性，那么 model 现在是否适合并准备好对测试数据的预测？ 所以在上面的例子中使用lr.predict

Answer 1

否，模型未拟合。看着source code for cross_val_score：

scores=parallel(delayed(_fit_and_score)(clone(estimator),X,y,scorer,
                                        train,test,verbose,None,fit_params)

如您所见，cross_val_score 在将折叠训练数据拟合到它之前克隆了估计器。 cross_val_score 会给你输出一个分数数组，你可以分析这些分数，以了解估计器对数据的不同折叠的执行情况，以检查它是否过度拟合数据。你可以know more about it here

一旦您对cross_val_score 的结果感到满意，您需要将整个训练数据拟合到估计器，然后才能使用它来预测测试数据。