训练SVM的参数是什么

Question

我正在使用这个库 https://www.npmjs.com/package/machine_learning 使用 SVM 使用机器学习来做软件

根据SVM的例子：

svm.train({
    C : 1.1, // default : 1.0. C in SVM. 
    tol : 1e-5, // default : 1e-4. Higher tolerance --> Higher precision 
    max_passes : 20, // default : 20. Higher max_passes --> Higher precision 
    alpha_tol : 1e-5, // default : 1e-5. Higher alpha_tolerance --> Higher precision 

    kernel : { type: "polynomial", c: 1, d: 5}
    // default : {type : "gaussian", sigma : 1.0} 
    // {type : "gaussian", sigma : 0.5} 
    // {type : "linear"} // x*y 
    // {type : "polynomial", c : 1, d : 8} // (x*y + c)^d 
    // Or you can use your own kernel. 
    // kernel : function(vecx,vecy) { return dot(vecx,vecy);} 
});

参数 C 告诉 SVM 优化您希望避免对每个训练示例进行错误分类的程度。

其他参数我不明白。

Answer 1

看看soft-margin的方程C-SVM：

它指出C 定义了错误分类和边际之间的权衡。这必须根据您的数据选择足够大。您还将在此处看到eps>0 参数。这可能是您的tolerance 参数，并定义了目标函数中由C 参数加权的误差。

对于kernel parameters，看一下SVM的对偶问题：

您会看到术语K(x_i,x_j)。这称为Kernel-Function。此功能允许 SVM 学习非线性决策边界。因此，如果您的数据不是线性可分的，您可以使用这样的函数将您的数据（实际上是dot-product）转换为更高维度的特征空间，以便在那里将它们分开。只需看看本指南，它将教您有关 SVM 训练过程的基础知识和一些最佳实践：

https://www.csie.ntu.edu.tw/~cjlin/papers/guide/guide.pdf