【问题标题】:scikit OneClassSvm sparse matrix return (very) different result than densescikit OneClassSvm 稀疏矩阵返回(非常)与密集不同的结果
【发布时间】:2015-10-29 15:29:23
【问题描述】:

我正在使用带有密集矩阵的OneClassSVM 分类器,结果非常好。我想在我的特征中包含一些文本并使用稀疏矩阵,但是在使用稀疏矩阵时我得到了非常不同(和错误)的结果,我不明白为什么

这是一个例子:

import io
from pandas import pandas
import scipy
from sklearn import svm

t="""A,B,C,D,E,F
     11,1,2,3,4,5
     11,1,2,0,3,6
     11,1,2,3,2,5
     11,2,0,3,1,7
     11,4,2,3,0,5"""
t_test="""A,B,C,D,E,F
          12,1,3,0,1,5
          14,2,2,3,2,8
          12,1,2,3,4,5
          18,2,3,1,3,2"""
df = pandas.read_csv(io.StringIO(t), dtype=float)
df_test = pandas.read_csv(io.StringIO(t_test), dtype=float)

cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(df)
print(cl.decision_function(df_test))

cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(scipy.sparse.csr_matrix(df.values))
print(cl.decision_function(scipy.sparse.csr_matrix(df_test)))

结果:

#Dense
[[-0.094537  ]
 [-0.13060355]
 [-0.02208006]
 [-0.14990236]]
#sparse
[[ -4.67612004e-311]
 [ -6.79156324e-311]
 [ -5.92318332e-311]
 [ -6.94061414e-311]]

我还尝试了带有稀疏矩阵的 scikit OneClassSVM 示例,结果非常糟糕:https://gist.github.com/Avricot/68775656ab77217e5569

结果如下:密集矩阵(如预期): 稀疏矩阵(不正确):

稀疏矩阵有什么问题?

【问题讨论】:

  • 只是想知道,你为什么使用 rbf 内核?似乎线性内核可以正常工作。此外,您可以尝试 k-means 聚类,因为它似乎非常适合这个问题。
  • 你是对的,但在我的真实数据集中,线性内核不适合。目标是找到与唯一类最相似的实体,这就是我使用 1 类分类器的原因,我不知道如何使用 k-means 来做到这一点。图片只是在这里显示稀疏和密集的区别,让我添加密集的结果图像作为比较

标签: machine-learning scikit-learn svm sparse-matrix


【解决方案1】:

这是一个错误https://github.com/scikit-learn/scikit-learn/issues/5095 它在 5093 拉取请求中得到修复。 如果你愿意 - 你可以等到有人将它合并到 master 中,或者现在使用它:

git clone https://github.com/scikit-learn/scikit-learn.git
cd scikit-learn/
git fetch origin refs/pull/5093/head:pn_5093
git checkout pn_5093
python3 setup.py install --user

【讨论】:

    猜你喜欢
    • 2015-09-28
    • 2021-02-23
    • 1970-01-01
    • 2016-06-25
    • 1970-01-01
    • 2020-09-24
    • 1970-01-01
    • 2019-09-02
    • 1970-01-01
    相关资源
    最近更新 更多