多标签分类的 libsvm 输出预测概率答案

【问题标题】：libsvm output prediction probability for multi-label classification多标签分类的 libsvm 输出预测概率
【发布时间】：2015-02-01 09:58:06
【问题描述】：

我正在尝试使用 libsvm（带有 Matlab 接口）来运行一些多标签分类问题。下面是一些使用 IRIS 数据的玩具问题：

load fisheriris;

featuresTraining                        = [meas(1:30,:); meas(51:80,:); meas(101:130,:)];
featureSelectedTraining                 = featuresTraining(:,1:3);

groundTruthGroupTraining                = [species(1:30,:); species(51:80,:); species(101:130,:)];
[~, ~, groundTruthGroupNumTraining]     = unique(groundTruthGroupTraining);

featuresTesting                         = [meas(31:50,:); meas(81:100,:); meas(131:150,:)];
featureSelectedTesting                  = featuresTesting(:,1:3);

groundTruthGroupTesting                 = [species(31:50,:); species(81:100,:); species(131:150,:)];
[~, ~, groundTruthGroupNumTesting]      = unique(groundTruthGroupTesting);

% Train the classifier
optsStruct                              = ['-c ', num2str(2), ' -g ', num2str(4), '-b ', 1];
SVMClassifierObject                     = svmtrain(groundTruthGroupNumTraining, featureSelectedTraining, optsStruct);

optsStruct                              = ['-b ', 1];
[predLabelTesting, predictAccuracyTesting, ...
    predictScoresTesting]               = svmpredict(groundTruthGroupNumTesting, featureSelectedTesting, SVMClassifierObject, optsStruct);

但是，对于我得到的预测概率（此处显示前 12 行结果）

1.08812899093155    1.09025554950852    -0.0140009056912001
0.948911671379753   0.947899227815959   -0.0140009056926024
0.521486301840914   0.509673405799383   -0.0140009056926027
0.914684487894784   0.912534150299246   -0.0140009056926027
1.17426551505833    1.17855350325579    -0.0140009056925103
0.567801459258613   0.557077025701113   -0.0140009056926027
0.506405203427106   0.494342606399178   -0.0140009056926027
0.930191457490471   0.928343421250020   -0.0140009056926027
1.16990617214906    1.17412523596840    -0.0140009056926026
1.16558843984163    1.16986137054312    -0.0140009056926015
0.879648874624610   0.876614924593740   -0.0140009056926027
-0.151223818963057  -0.179682730685229  -0.0140009056925999

我很困惑，为什么有些概率大于 1 而有些是负数？

但是，预测的标签似乎相当准确：

最终输出为

Accuracy = 93.3333% (56/60) (classification)

那么如何解释预测概率的结果呢？非常感谢。 A.

【问题讨论】：

标签： matlab machine-learning classification svm libsvm

【解决方案1】：

我知道这个答案可能为时已晚，但它可能会使遇到同样问题的人受益。

libsvm 实际上可以产生概率，为此使用选项'-b'。

我认为您犯的错误在于您定义 optsStruct 变量的方式。应该这样定义：['-b ' num2str(1)] OR ['-b 1']。

这同样适用于发送到svmtrain 的选项。

【讨论】：

你还应该在引用' -b '而不是'-b '前后留一个空格。

【解决方案2】：

支持向量机的输出不是概率！

分数的符号表示它是属于 A 类还是 B 类。如果分数是 1 或 -1，它就在边缘，尽管知道这并不是特别有用。

如果你真的需要概率，你可以使用Platt scaling 转换它们。您基本上对它们应用了 sigmoid 函数。

【讨论】：