决策树和adaboost

 前面：好老的东西啊，啊啊啊啊啊啊啊啊啊

来源于统计学习方法：

信息增益：

其中

 

 

信息增益率：

基尼指数：

 

 

 取gini最小的

 

      先剪枝——在构造过程中，当某个节点满足剪枝条件，则直接停止此分支的构造。

      后剪枝——先构造完成完整的决策树，再通过某些条件遍历树进行剪枝。

 

 

adaboost