sklearn 特征联合答案

【问题标题】：sklearn feature unionsklearn 特征联合
【发布时间】：2018-12-25 15:43:07
【问题描述】：

目标是使用三个输入运行多标签分类器。每个输入都是较大文档的摘录。管道有一个初步步骤，使用 tfidf 对每个摘录进行矢量化

x 是一个字符串列表，每个字符串都是摘录。

下面的代码有效，但似乎忽略了列表的第二个和第三个元素..

def grid_search(train_x, train_y):

    from sklearn.model_selection import GridSearchCV
    from sklearn.pipeline import Pipeline
    from sklearn.feature_extraction.text import TfidfVectorizer
    from sklearn.multiclass import OneVsRestClassifier
    from sklearn.naive_bayes import MultinomialNB


    parms={ 'tfidf__max_df': (0.25, 0.5, 0.75),
            'tfidf__ngram_range': [(1, 1), (1, 2), (1, 3)],
            'clf__estimator__alpha': (1e-2, 1e-3)
            } 
    tfidf1 = ('tfidf', TfidfVectorizer(stop_words=stop_words))
    vctrz= tfidf1 
    clsfy = ('clf', OneVsRestClassifier(MultinomialNB( fit_prior=True, class_prior=None)))
    pipeline = Pipeline([ vctrz, clsfy ])


    gs1 = GridSearchCV(pipeline, parms, cv=2, n_jobs=1, verbose=0)
    gs1.fit(train_x, train_y)
    return gs1.best_estimator_


classifier = grid_search(train_x, y_train)

我试过没有成功

    vctrz = [tfidf1,tfidf1,tfidf1]

我也试过 FeatureUnion

TFALL =  [('tf1', TFIDFX1()) , ('tf2', TFIDFX2()) , ('tf3', TFIDFX3()) ]
#maybe the () are extraneous but without them I get a self less error

clsfy = ('clf', OneVsRestClassifier(MultinomialNB( fit_prior=True, class_prior=None)))

ppl = Pipeline([     ('feats', FeatureUnion(TFALL) ),   clsfy    ])


gs1 = GridSearchCV(ppl, parms, cv=2, n_jobs=1, verbose=5)

其中TFIDFX1的构造如下

class TFIDFX1(BaseEstimator, TransformerMixin):


    def __init__(self):
        pass

    def vectorize(self, doc):
        return vect.fit(doc)

    def transform(self, mylist, y=None):
        return self.vectorize(mylist[0]) #would 

    def fit(self, df, y=None):
        return self

为了简洁起见，我省略了类 TFIDFX2 和 TFIDFX3，它们分别看起来像 mylist[1] 和 mylist[2]，但在其他方面是相同的

这会失败并出现以下回溯：

TypeError: float() argument must be a string or a number, not 'TfidfVectorizer'

感谢 SO 社区的任何帮助

【问题讨论】：

所以您希望将 TfidfVectorizer 单独应用于每一列，然后组合得到的向量？如果是这样，如果两列都包含相同的单词，结果中将有两列（每个输入列中的一个）？
我试图澄清这个问题。 X 是三个文档摘录的列表，我希望 SKLEARN 将其视为 3 个自变量。这些摘录可能重叠，也可能不重叠。
这种情况下看这个例子：scikit-learn.org/stable/auto_examples/hetero_feature_union.html

标签： python-3.x scikit-learn classification pipeline tf-idf

【解决方案1】：

即使三个输入是齐次的，tfidf 步骤也不会自动跨越数组

相反，您必须使用特征联合步骤并将三个输入组合为三个单独的 tfidf 子步骤，如 this example

感谢@Vivek Kumar

【讨论】：