如何对不同模型（例如随机森林、gbm、svm 等）的预测执行线性/逻辑回归？

【问题标题】：How to perform linear/logistic regression on predictions of different models (say randomforest, gbm, svm etc)?如何对不同模型（例如随机森林、gbm、svm 等）的预测执行线性/逻辑回归？
【发布时间】：2013-05-23 10:00:51
【问题描述】：

基本上是通过创建一个集合来改进预测。但是我们如何做到这一点。有人可以解释在 R 中使用示例代码吗？我只是一个学习者。任何帮助将不胜感激。

谢谢。

【问题讨论】：

标签： machine-learning svm random-forest nnet

【解决方案1】：

集成中的预测聚合可以通过多种方式完成。最简单的方法是多数投票（分类）或平均所有基础模型的预测（回归）。

通常，复杂的聚合方案并不比基本的好多少（并且对过度拟合非常敏感）。这就是为什么像 EnsembleSVM 这样的专用包只允许非常基本的聚合（最好是线性组合）。

【讨论】：