【发布时间】:2015-10-29 15:29:23
【问题描述】:
我正在使用带有密集矩阵的OneClassSVM 分类器,结果非常好。我想在我的特征中包含一些文本并使用稀疏矩阵,但是在使用稀疏矩阵时我得到了非常不同(和错误)的结果,我不明白为什么
这是一个例子:
import io
from pandas import pandas
import scipy
from sklearn import svm
t="""A,B,C,D,E,F
11,1,2,3,4,5
11,1,2,0,3,6
11,1,2,3,2,5
11,2,0,3,1,7
11,4,2,3,0,5"""
t_test="""A,B,C,D,E,F
12,1,3,0,1,5
14,2,2,3,2,8
12,1,2,3,4,5
18,2,3,1,3,2"""
df = pandas.read_csv(io.StringIO(t), dtype=float)
df_test = pandas.read_csv(io.StringIO(t_test), dtype=float)
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(df)
print(cl.decision_function(df_test))
cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)
cl.fit(scipy.sparse.csr_matrix(df.values))
print(cl.decision_function(scipy.sparse.csr_matrix(df_test)))
结果:
#Dense
[[-0.094537 ]
[-0.13060355]
[-0.02208006]
[-0.14990236]]
#sparse
[[ -4.67612004e-311]
[ -6.79156324e-311]
[ -5.92318332e-311]
[ -6.94061414e-311]]
我还尝试了带有稀疏矩阵的 scikit OneClassSVM 示例,结果非常糟糕:https://gist.github.com/Avricot/68775656ab77217e5569
稀疏矩阵有什么问题?
【问题讨论】:
-
只是想知道,你为什么使用 rbf 内核?似乎线性内核可以正常工作。此外,您可以尝试 k-means 聚类,因为它似乎非常适合这个问题。
-
你是对的,但在我的真实数据集中,线性内核不适合。目标是找到与唯一类最相似的实体,这就是我使用 1 类分类器的原因,我不知道如何使用 k-means 来做到这一点。图片只是在这里显示稀疏和密集的区别,让我添加密集的结果图像作为比较
标签: machine-learning scikit-learn svm sparse-matrix