如何正确计算我的 SVM 的最佳 C 和 gamma？

Question

我正在尝试为我的 SVM 计算最佳 C 和 Gamma。尝试运行我的脚本时出现此错误：

ValueError: Invalid parameter max_features for estimator SVC. Check the list of available parameters withestimator.get_params().keys().

我通过the docs 了解n_estimators 的实际含义，以便我知道我应该在那里填写哪些值。但这对我来说并不完全清楚。有人可以告诉我这个值应该是多少，以便我可以运行我的脚本来找到最佳的 C 和 gamma？

我的代码：

if __name__=='__main__':

    fname = "/home/John/labels.csv"
    labels = pd.read_csv(fname, header=None).as_matrix()[:, 1]
    labels = map(itemgetter(1),
                 map(os.path.split,
                     map(os.path.dirname, labels))) 

    fname = "/home/John/reps.csv" 
    embeddings = pd.read_csv(fname, header=None).as_matrix()
    le = LabelEncoder().fit(labels)
    labelsNum = le.transform(labels)
    nClasses = len(le.classes_)


    svcClassifier = SVC(kernel='rbf', probability=True, C=10, gamma=10)
    #classifier = OneVsRestClassifier(svcClassifier).fit(embeddings, labelsNum)
    param_grid = { 
        'n_estimators': [200, 700],
        'max_features': ['auto', 'sqrt', 'log2']
    }

    CV_rfc = GridSearchCV(estimator=svcClassifier, param_grid=param_grid, cv= 5)
    CV_rfc.fit(embeddings, labelsNum)
    print CV_rfc.best_params_

尝试后，我手动发现C=10 和gamma=10 的效果最好。然而，我想使用这个函数来找出最佳值应该是什么。

我的代码被这篇帖子所吸引：How to get Best Estimator on GridSearchCV (Random Forest Classifier Scikit)

Answer 1

SVC 类没有参数 max_features 或 n_estimators，因为这些是您用作代码基础的 RandomForest 的参数。如果您想针对C 和gamma 优化模型，您可以尝试使用：

param_grid = { 
    'C': [0.1, 0.5, 1.0],
    'gamma': [0.1, 0.5, 1.0]
}

此外，我还建议您在sklearn 框架中搜索最佳kernel，可以是rbf、linear 或poly。

编辑：此处的值只是任意值，旨在说明一般方法。您应该在此处添加许多不同的值，这取决于您的情况。并且其范围也取决于您的情况。