SVM的增量学习答案

【问题标题】：Incremental Learning of SVMSVM的增量学习
【发布时间】：2017-11-04 13:06:04
【问题描述】：

在哪些实际应用中（机器学习）算法的增量学习很有用？ SVM 是否适合此类应用？与使用包含旧支持向量和新训练向量的集合进行再训练相比，该解决方案的计算量更大吗？

【问题讨论】：

【解决方案1】：

有一个众所周知的 SVM 增量版本：

但是，现有的实现并不多，也许在 Matlab 中有一些东西：

这种方法的优点是它提供了准确的留一法评估训练数据的泛化性能

【讨论】：

【解决方案2】：

现在有一种趋势是使用大型“非核心”数据集，这些数据集通常从网络、磁盘或数据库流入。一个真实的例子是流行的纽约出租车数据集，它有 330+gb，无法通过桌面统计模型轻松处理。

svms 作为一种“批量”算法，必须将整个数据集加载到内存中。因此，它们不是增量学习的首选。相反，逻辑回归、kmeans、神经网络等能够部分学习的学习器更适合此类任务。

【讨论】：