【发布时间】:2017-07-03 03:51:31
【问题描述】:
背景...
我正在尝试创建一个分类器,该分类器将尝试根据以前的 ledger-cli 条目和下载的银行对帐单中提供的交易描述自动创建 ledger-cli 条目。
我的想法是从现有的 ledger-cli 文件中解析条目并提取特征和标签并使用它来学习。然后,当我导入新交易时,我会使用之前提取的特征来预测两件事..A)分类帐目标帐户和 B)收款人。
我已经进行了大量的谷歌搜索,我认为这已经让我走得很远,但我不确定我是否以正确的方式接近这一点,因为我在分类方面真的很绿色,或者我是否了解一切足以做出适当的决定这将产生令人满意的结果。如果我的分类器无法预测分类帐帐户和收款人,我会根据需要提示输入这些值。
我已将提供给该问题的答案用作模板,并通过添加银行描述而不是提及纽约或伦敦的内容进行修改... use scikit-learn to classify into multiple categories
每个分类帐条目都包含一个收款人和一个目的地帐户。
当我尝试我的解决方案时(类似于上面链接中提供的内容),我期望对于每个输入样本,我会返回一个预测的分类帐目标帐户和一个预测的收款人。对于某些样本,我确实得到了退回,但对于其他样本,我只得到了预测的分类帐目标帐户或预测的收款人。这是预期的吗?如果是分类帐目标帐户或收款人,我如何知道何时只返回一个值?
此外,我不确定我要做的是否被认为是多类、多标签或多输出?
任何帮助将不胜感激。
这是我当前的脚本和输出:
#! /usr/bin/env python3
import numpy as np
from sklearn.pipeline import Pipeline
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.svm import LinearSVC
from sklearn.feature_extraction.text import TfidfTransformer
from sklearn.multiclass import OneVsRestClassifier
from sklearn import preprocessing
X_train = np.array(["POS MERCHANDISE",
"POS MERCHANDISE TIM HORTONS #57",
"POS MERCHANDISE LCBO/RAO #0266",
"POS MERCHANDISE RONA HOME & GAR",
"SPORT CHEK #264 NEPEAN ON",
"LOBLAWS 1035 NEPEAN ON",
"FARM BOY #90 NEPEAN ON",
"WAL-MART #3638 NEPEAN ON",
"COSTCO GAS W1263 NEPEAN ON",
"COSTCO WHOLESALE W1263 NEPEAN ON",
"FARM BOY #90",
"LOBLAWS 1035",
"YIG ROSS 819",
"POS MERCHANDISE STARBUCKS #456"
])
y_train_text = [["HOMESENSE","Expenses:Shopping:Misc"],
["TIM HORTONS","Expenses:Food:Dinning"],
["LCBO","Expenses:Food:Alcohol-tobacco"],
["RONA HOME & GARDEN","Expenses:Auto"],
["SPORT CHEK","Expenses:Shopping:Clothing"],
["LOBLAWS","Expenses:Food:Groceries"],
["FARM BOY","Expenses:Food:Groceries"],
["WAL-MART","Expenses:Food:Groceries"],
["COSTCO GAS","Expenses:Auto:Gas"],
["COSTCO","Expenses:Food:Groceries"],
["FARM BOY","Expenses:Food:Groceries"],
["LOBLAWS","Expenses:Food:Groceries"],
["YIG","Expenses:Food:Groceries"],
["STARBUCKS","Expenses:Food:Dinning"]]
X_test = np.array(['POS MERCHANDISE STARBUCKS #123',
'STARBUCKS #589',
'POS COSTCO GAS',
'COSTCO WHOLESALE',
"TIM HORTON'S #58",
'BOSTON PIZZA',
'TRANSFER OUT',
'TRANSFER IN',
'BULK BARN',
'JACK ASTORS',
'WAL-MART',
'WALMART'])
#target_names = ['New York', 'London']
lb = preprocessing.MultiLabelBinarizer()
Y = lb.fit_transform(y_train_text)
classifier = Pipeline([
('vectorizer', CountVectorizer()),
('tfidf', TfidfTransformer()),
('clf', OneVsRestClassifier(LinearSVC()))])
classifier.fit(X_train, Y)
predicted = classifier.predict(X_test)
all_labels = lb.inverse_transform(predicted)
for item, labels in zip(X_test, all_labels):
print ('%s => %s' % (item, ', '.join(labels)))
输出:
POS MERCHANDISE STARBUCKS #123 => Expenses:Food:Dinning
STARBUCKS #589 => Expenses:Food:Dinning, STARBUCKS
POS COSTCO GAS => COSTCO GAS, Expenses:Auto:Gas
COSTCO WHOLESALE => COSTCO, Expenses:Food:Groceries
TIM HORTON'S #58 => Expenses:Food:Dinning
BOSTON PIZZA => Expenses:Food:Groceries
TRANSFER OUT => Expenses:Food:Groceries
TRANSFER IN => Expenses:Food:Groceries
BULK BARN => Expenses:Food:Groceries
JACK ASTORS => Expenses:Food:Groceries
WAL-MART => Expenses:Food:Groceries, WAL-MART
WALMART => Expenses:Food:Groceries
如您所见,有些预测只提供分类帐目标帐户,而对于 BULK BARN 等一些预测,似乎默认为“费用:食品:杂货”。
对于收款人的预测,它实际上只是基于交易描述及其过去映射到的收款人,而不受使用的目的地分类帐帐户的影响。对于预测分类帐目标帐户可能会涉及更多,因为它可以基于描述以及其他可能的特征,例如金额或星期几或交易月份。例如,在 Costco(主要销售散装食品以及大型电子产品和家具)购买 200 美元或以下的商品很可能被视为杂货,而购买超过 200 美元的商品可能被视为家用或电子产品。也许我应该训练两个单独的分类器?
这是我正在解析的一个分类帐条目示例,以获取我将用于功能的数据并识别分类帐目标帐户和收款人的类。
2017/01/01 * 蒂姆霍顿 --payee
;描述:_POS MERCHANDISE TIM HORTONS #57 -- 交易描述
费用:食物:餐饮 -- 目的地账户 $ 5.00
资产:现金
斜体部分是我解析的部分。我想根据将新交易的银行交易描述与存储在'Desc ' 分类帐条目的标签。
【问题讨论】:
-
你也许应该阅读和学习 scikit-learn 的教程,以更清楚地了解你需要使用什么:scikit-learn.org/stable/tutorial/basic/tutorial.html
-
我查看了教程和多个示例,并认为我了解其中的大部分内容,但仍然无法将模型拟合到我想要完成的工作以及我认为输出的外观。当我回到家时,我将发布我当前的工作代码,因为这可能有助于澄清我正在尝试做什么以及我目前正在做什么。
-
为了更好地理解:你已经知道班级的数量和名称了吗?您是否已经知道所有变量都可以用于分类吗?
-
是的,我知道类和名称的数量,因为它们是从分类帐输入文件中解析出来的,并且想法是尝试分类到先前定义的类(分类帐目标帐户和收款人)。我认为你的第二个问题有一个错字……是的,我知道什么可用于分类。
-
因此,您可以使用任何多类监督机器学习方法进行分类……您可以从简单易懂的东西开始,例如朴素贝叶斯(analyticsvidhya.com/blog/2015/09/naive-bayes-explained 和 scikit-learn.org/stable/modules/naive_bayes.html)。但首先你必须准备好你的数据,把它做成你的分类器可以使用的格式。我查看了您的代码,但我不太了解您的数据
标签: python scikit-learn classification text-classification