机器学习支持向量机--SVM
1.SVM概念
过渡带边界上的向量叫做支撑向量
2.原理解析
对于线性可分数据，分割平面的确定方法：找到分割平面的参数，是的支撑向量到大分割平面的距离最大，即间隔最远
由于fi(x)都是<=0，vi>=0,hi(x)=0,故G（x,v,lamda）<=f(x),
即maxG（）=f(x)
又因为目标为minf（x）,即转化为min（maxG（））
满足KTT条件下，利用凸优化问题的对偶问题求解
对于线性不可分样本的考虑
3.关于核函数（线性SVM–>非线性SVM）
把样本往高维映射
多项式核函数
使得特征数量n^2上升，计算量也相应增加
高斯核
1.RBF核函数可放映出两点的相似度
2.在任何一个样本点处，都有一个以他为中心的高斯分布
3.效果如图，不同类的点在平面上下，越拉越远
4.SVM与CNN
高斯核是真的吊！！
5.调参经验
c:越大，间隔越小，泛化能力越差
gamma：越大，边界非线性越强，泛化能力越差