为什么 SVMLite 在训练输入很少的情况下会错误分类？

Question

我正在使用 SVM Light 对使用 OpenCV 处理的图像进行分类。图像被制作成黑白，有点模糊，来自opencv的HOG检测器用于创建一个特征向量，其中向量来自用1标记的正图像和用-1标记的负图像。当我在 7 个正面和 7 个负面过程图像上运行 SVMLight 训练文件时，它对 7 个负面文件中的 4 个进行了错误分类。

但是，在更大的输入下，它可以在没有错误分类的情况下进行训练。有谁知道为什么会这样？

Correctly classifying negative images with a larger training input

Misclassifying 4 of 7 negative images while training

Answer 1

这通常是 SVM 的缺点之一。例如在 scikit-learn documentation 中提到：

支持向量机的缺点包括：

• 如果特征数远大于样本数，则该方法的性能可能会很差。