支持向量回归的度数 - RBF 内核

Question

我想问一下 SVM 上的 RBF Kernel。

在此处的 sklearn 文档中：http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVR.html#sklearn.svm.SVR 据说“核函数程度仅在poly、rbf、sigmoid 中显着。

我可以理解多项式内核上度数的含义，但是高斯 (rbf) 内核呢？ 如我所见，sklearn 库中的默认值为 3。我还运行了一个GridSearch 并给出了一些我想出的数字，估计 3 也是最好的值。 它真的很重要还是只是一个错误类型？如果是这样，有人可以解释一下它的含义和价值吗？

提前致谢

Answer 1

内核只是实现模型的基本函数。 3 次多项式函数是ax^3+bx^2+cx+d。您可以使用更高次的多项式，但是您可能会过度拟合，这意味着您的模型不能很好地泛化，而这正是您想要的。有几种技术可以防止过拟合。

RBF 内核基于高斯函数，类似于 aexp(-bx)。如果您对机器学习一无所知，我建议您使用这些。一般来说，他们适应得最好。

如果你想了解更多关于机器学习的信息，coursera 上的Ng's course 非常适合初学者。