【问题标题】:using scikit-learn to classify multiple outputs of banking transactions使用 scikit-learn 对银行交易的多个输出进行分类
【发布时间】:2017-07-03 03:51:31
【问题描述】:

背景...

我正在尝试创建一个分类器,该分类器将尝试根据以前的 le​​dger-cli 条目和下载的银行对帐单中提供的交易描述自动创建 ledger-cli 条目。

我的想法是从现有的 ledger-cli 文件中解析条目并提取特征和标签并使用它来学习。然后,当我导入新交易时,我会使用之前提取的特征来预测两件事..A)分类帐目标帐户和 B)收款人。

我已经进行了大量的谷歌搜索,我认为这已经让我走得很远,但我不确定我是否以正确的方式接近这一点,因为我在分类方面真的很绿色,或者我是否了解一切足以做出适当的决定这将产生令人满意的结果。如果我的分类器无法预测分类帐帐户和收款人,我会根据需要提示输入这些值。

我已将提供给该问题的答案用作模板,并通过添加银行描述而不是提及纽约或伦敦的内容进行修改... use scikit-learn to classify into multiple categories

每个分类帐条目都包含一个收款人和一个目的地帐户。

当我尝试我的解决方案时(类似于上面链接中提供的内容),我期望对于每个输入样本,我会返回一个预测的分类帐目标帐户和一个预测的收款人。对于某些样本,我确实得到了退回,但对于其他样本,我只得到了预测的分类帐目标帐户或预测的收款人。这是预期的吗?如果是分类帐目标帐户或收款人,我如何知道何时只返回一个值?

此外,我不确定我要做的是否被认为是多类、多标签或多输出?

任何帮助将不胜感激。

这是我当前的脚本和输出:

#! /usr/bin/env python3

import numpy as np
from sklearn.pipeline import Pipeline
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.svm import LinearSVC
from sklearn.feature_extraction.text import TfidfTransformer
from sklearn.multiclass import OneVsRestClassifier
from sklearn import preprocessing

X_train = np.array(["POS MERCHANDISE",
"POS MERCHANDISE TIM HORTONS #57",
"POS MERCHANDISE LCBO/RAO #0266",
"POS MERCHANDISE RONA HOME & GAR",
"SPORT CHEK #264 NEPEAN ON",
"LOBLAWS 1035 NEPEAN ON",
"FARM BOY #90 NEPEAN ON",
"WAL-MART #3638 NEPEAN ON",
"COSTCO GAS W1263 NEPEAN ON",
"COSTCO WHOLESALE W1263 NEPEAN ON",
"FARM BOY #90",
"LOBLAWS 1035",
"YIG ROSS 819",
"POS MERCHANDISE STARBUCKS #456"
])
y_train_text = [["HOMESENSE","Expenses:Shopping:Misc"],
["TIM HORTONS","Expenses:Food:Dinning"],
["LCBO","Expenses:Food:Alcohol-tobacco"],
["RONA HOME & GARDEN","Expenses:Auto"],
["SPORT CHEK","Expenses:Shopping:Clothing"],
["LOBLAWS","Expenses:Food:Groceries"],
["FARM BOY","Expenses:Food:Groceries"],
["WAL-MART","Expenses:Food:Groceries"],
["COSTCO GAS","Expenses:Auto:Gas"],
["COSTCO","Expenses:Food:Groceries"],
["FARM BOY","Expenses:Food:Groceries"],
["LOBLAWS","Expenses:Food:Groceries"],
["YIG","Expenses:Food:Groceries"],
["STARBUCKS","Expenses:Food:Dinning"]]

X_test = np.array(['POS MERCHANDISE STARBUCKS #123',
                   'STARBUCKS #589',
                   'POS COSTCO GAS',
                   'COSTCO WHOLESALE',
                   "TIM HORTON'S #58",
                   'BOSTON PIZZA',
                   'TRANSFER OUT',
                   'TRANSFER IN',
                   'BULK BARN',
                   'JACK ASTORS',
                   'WAL-MART',
                   'WALMART'])

#target_names = ['New York', 'London']

lb = preprocessing.MultiLabelBinarizer()
Y = lb.fit_transform(y_train_text)

classifier = Pipeline([
    ('vectorizer', CountVectorizer()),
    ('tfidf', TfidfTransformer()),
    ('clf', OneVsRestClassifier(LinearSVC()))])

classifier.fit(X_train, Y)
predicted = classifier.predict(X_test)
all_labels = lb.inverse_transform(predicted)

for item, labels in zip(X_test, all_labels):
    print ('%s => %s' % (item, ', '.join(labels)))

输出:

POS MERCHANDISE STARBUCKS #123 => Expenses:Food:Dinning
STARBUCKS #589 => Expenses:Food:Dinning, STARBUCKS
POS COSTCO GAS => COSTCO GAS, Expenses:Auto:Gas
COSTCO WHOLESALE => COSTCO, Expenses:Food:Groceries
TIM HORTON'S #58 => Expenses:Food:Dinning
BOSTON PIZZA => Expenses:Food:Groceries
TRANSFER OUT => Expenses:Food:Groceries
TRANSFER IN => Expenses:Food:Groceries
BULK BARN => Expenses:Food:Groceries
JACK ASTORS => Expenses:Food:Groceries
WAL-MART => Expenses:Food:Groceries, WAL-MART
WALMART => Expenses:Food:Groceries

如您所见,有些预测只提供分类帐目标帐户,而对于 BULK BARN 等一些预测,似乎默认为“费用:食品:杂货”。

对于收款人的预测,它实际上只是基于交易描述及其过去映射到的收款人,而不受使用的目的地分类帐帐户的影响。对于预测分类帐目标帐户可能会涉及更多,因为它可以基于描述以及其他可能的特征,例如金额或星期几或交易月份。例如,在 Costco(主要销售散装食品以及大型电子产品和家具)购买 200 美元或以下的商品很可能被视为杂货,而购买超过 200 美元的商品可能被视为家用或电子产品。也许我应该训练两个单独的分类器?

这是我正在解析的一个分类帐条目示例,以获取我将用于功能的数据并识别分类帐目标帐户和收款人的类。

2017/01/01 * 蒂姆霍顿 --payee
;描述:_POS MERCHANDISE TIM HORTONS #57 -- 交易描述
费用:食物:餐饮 -- 目的地账户 $ 5.00
资产:现金

斜体部分是我解析的部分。我想根据将新交易的银行交易描述与存储在'Desc ' 分类帐条目的标签。

【问题讨论】:

  • 你也许应该阅读和学习 scikit-learn 的教程,以更清楚地了解你需要使用什么:scikit-learn.org/stable/tutorial/basic/tutorial.html
  • 我查看了教程和多个示例,并认为我了解其中的大部分内容,但仍然无法将模型拟合到我想要完成的工作以及我认为输出的外观。当我回到家时,我将发布我当前的工作代码,因为这可能有助于澄清我正在尝试做什么以及我目前正在做什么。
  • 为了更好地理解:你已经知道班级的数量和名称了吗?您是否已经知道所有变量都可以用于分类吗?
  • 是的,我知道类和名称的数量,因为它们是从分类帐输入文件中解析出来的,并且想法是尝试分类到先前定义的类(分类帐目标帐户和收款人)。我认为你的第二个问题有一个错字……是的,我知道什么可用于分类。
  • 因此,您可以使用任何多类监督机器学习方法进行分类……您可以从简单易懂的东西开始,例如朴素贝叶斯(analyticsvidhya.com/blog/2015/09/naive-bayes-explainedscikit-learn.org/stable/modules/naive_bayes.html)。但首先你必须准备好你的数据,把它做成你的分类器可以使用的格式。我查看了您的代码,但我不太了解您的数据

标签: python scikit-learn classification text-classification


【解决方案1】:

关于您的上一条评论:

 Training set------->  1st classifier  <------- new data input
                           |                
                           |            
                           | 
                    output labelled data (payee)
                           +              
                     other features
                           |
New training set---> 2d classifier   
                           |
                           |
                    output labelled data (ledger account)

或者

Training set------->  1st classifier  <------- new data input
                           |                
                           |            
                           | 
                         output :
       multi-labelled data (payee and ledger account)

编辑 有 2 个独立的分类器:

Training set for payee (with all relative feature)
            |
            |
      1st classifier <--------new input data
            |
            | 
       output labelled data (payee)


Training set for ledger account (with all relative feature)
            |
            |
      2d classifier <--------new input data
            |
            | 
       output labelled data (ledger account)

【讨论】:

  • 这正是我感到困惑的部分......一旦预测了收款人,那么应该预测一个帐户,但预测的帐户应该只是一个以前见过的帐户与预测收款人(依赖)。我想说它更像你的第一幅画,但有没有办法可以限制第二个分类器能够预测?
  • 问题是信息如何相互依赖:收款人和账户分类账可以用相同的特征预测吗?如果是,第二张图更好,如果不是:分类帐是否强烈依赖收款人分类的结果?如果是,第一张图可以工作,或者如果不是第三张图可能会更好(请参阅我的帖子上的编辑)
  • (如果使用第一张图,您需要“手动”创建 2d 训练集)
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2016-05-16
  • 2017-08-08
  • 2015-07-05
  • 2020-04-08
  • 2016-03-17
  • 2015-12-19
相关资源
最近更新 更多