【问题标题】:universal new line mode in csv reader make csv writer write mistake line break in filecsv阅读器中的通用换行模式使csv编写器在文件中写入错误换行符
【发布时间】:2023-04-04 01:04:01
【问题描述】:

当我使用通用行模式 ("rU") cdv.reader 读取 csv 文件时,它会在 csv.writer 中生成 \r \n 作为新行。你知道如何忽略 csv.writer 中的新行吗?我必须在阅读器中使用 ("rU"),因为我的文件包含换行符。

这是我使用的代码

import csv

dict={}
with open('training_data.csv','rU') as f:
    reader = csv.reader(f,skipinitialspace=True)
for line in reader:
    try:
        dict[line[2]].append(line[3])
    except:
        dict[line[2]]=[line[3]]

with open('training_result.csv','w') as f:
writer = csv.writer(f, delimiter='|',dialect='excel-tab')
for key in dict:
    writer.writerow([key,','.join(dict[key])])

输入是这样的

username, some of tweet that
want to be processed
by machine , label

因为这是换行和通用行模式激活,当我捕获数据并想用 csv writer 写入时,它会是一样的

我想要的输出是这样的

username, some of tweet that want to be processed by machine , label

我应该删除 csv 文件中的所有换行符吗?但它太大了,csv 大约 150MB,包含 70 万行。有什么办法吗?

我已经使用了诸如skipinitialspace和方言之类的阅读器属性,但仍然无法解决问题

【问题讨论】:

  • 你总是想将第 2 行追加到第 3 行吗?
  • 似乎不是有效的 csv 文件。你能分享一张csv文件的照片吗?因此,如果是这种情况,您可以尝试通过在解析中使用一些相同的值来识别和强制行。
  • @BhargavRao 是的,因为我想根据标签或用户名连接推文内容(第二列)。该功能是为同一用户名捕获许多推文。例如,用户名 A 有超过 2 条推文。然后我连接所有 A 推文以在第二列中实现“词袋”分析。就是这个想法:/
  • @LalithJayasinghe 是的,尽管如此。我使用 'mongoexport -d aipd -c ntb_datasift --csv -f "twitter.place.full_name","twitter.user.location","interaction.author 从 MongoDB 导出 csv 文件(它是 MongoDB 中的 json 文件)。用户名","interaction.content","interaction.created_at","interaction.id" -o december_16_ntb_training_data.csv'
  • @LalithJayasinghe 这是 csv 中的示例行 #header twitter.place.full_name,twitter.user.location,interaction.author.username,interaction.content,interaction.created_at #row_content "Mataram, Kota Mataram",Mataram Nusa Tenggara Barat ,adliahpartang,"Arti sahabat adalah orang yang selalu ada atau selalu menemani hari-hari kita baik itu dalam keadaanäó t.co/nIoZIlJPeh","Sat, 2014 年 5 月 24 日 06:39:09 +0000 "

标签: python csv


【解决方案1】:

我认为这就是您正在寻找的结果。你没有提到你的 Python 版本。这是 Python 3。我使用了您上传到 Google Drive 的示例数据。文件解析为 UTF-8。

注意事项:

  • csv 有一个 DictReader 来帮助选择要处理的列。
  • CSV 文件应以二进制模式打开。在 Python 2 中,这只是 'rb''wb',但在 Python 3 中,它意味着 'r',newline=''open 调用的编码。
  • line 将是 {'header':'value'} 对的字典。
  • extrasaction 告诉 DictWriter 忽略字典中未在 fieldnames 中列出的额外字段。

样本数据:

twitter.place.full_name,twitter.user.location,interaction.author.username,interaction.content,interaction.created_at
"Gunungsari, Lombok Barat",Indonesia,__Thasya__,At Sheraton Senggigi Beach Resort äóî https://t.co/1FdTsMYWje,"Mon, 16 Jun 2014 15:32:54 +0000"
"Cakranegara, Kota Mataram",NULL,__Waone,Mataram,"Mon, 24 Mar 2014 13:13:46 +0000"
"Pemenang, Lombok Utara",Jakarta,_5at,"perdana, my first nephew from my lil sibling sister,,,

*moga gäó» ketularan songong kayak pamannya >_< http://t.co/UBEwcxWY5c","Sat, 04 Jan 2014 04:20:45 +0000"
"Pemenang, Lombok Utara",Jakarta,_5at,"@indiraputeri udah pinter bahasa sasak nih skrng,,, inaq rari","Sat, 04 Jan 2014 06:15:52 +0000"
"Pemenang, Lombok Utara",Jakarta,_5at,@indiraputeri dalemmm bgt nih ndoro .. !!! mksd nya apaan?,"Sat, 04 Jan 2014 05:55:04 +0000"
"Keruak, Lombok Timur",Jakarta,_5at,"pagi2, hujan, holiday, nasi goreng hangat, kopi hangat, di rumah, + spesial: kumpul keluarga,,, ^_^  *kurang_apa_lagi","Thu, 02 Jan 2014 00:02:47 +0000"
"Pujut, Lombok Tengah",Jakarta,_5at,"Doäó»a bepergian keluar rumah:

""Bismillaahitawakkaltu äó»alallooh""

*pasrah-pasrah-pasrah;
*bandara_international_lombok","Sun, 05 Jan 2014 03:36:48 +0000"
"Sakra, Lombok Timur",Jakarta,_5at,"Time for riding with my lil bro:
Mataram - Senggigi - Gili Terawangan
*jenguk_ponakan_baru;
*very_early","Fri, 03 Jan 2014 22:09:26 +0000"
"Sukamulia, Lombok Timur",,1821922,Salam friend,"Sun, 20 Jul 2014 19:23:53 +0000"

代码:

import csv

# Python 2 version of opens
#with open('training_data.csv','rb') as inp:
#    with open('training_result.csv','wb') as outp:

with open('training_data.csv','r',newline='',encoding='utf8') as inp:
    with open('training_result.csv','w',newline='',encoding='utf8') as outp:
        reader = csv.DictReader(inp)
        writer = csv.DictWriter(outp,
                                fieldnames=['interaction.author.username','interaction.content'],
                                extrasaction='ignore')
        writer.writeheader()
        for line in reader:
            line['interaction.content'] = line['interaction.content'].replace('\n',' ')
            writer.writerow(line)

结果:

interaction.author.username,interaction.content
__Thasya__,At Sheraton Senggigi Beach Resort äóî https://t.co/1FdTsMYWje
__Waone,Mataram
_5at,"perdana, my first nephew from my lil sibling sister,,,  *moga gäó» ketularan songong kayak pamannya >_< http://t.co/UBEwcxWY5c"
_5at,"@indiraputeri udah pinter bahasa sasak nih skrng,,, inaq rari"
_5at,@indiraputeri dalemmm bgt nih ndoro .. !!! mksd nya apaan?
_5at,"pagi2, hujan, holiday, nasi goreng hangat, kopi hangat, di rumah, + spesial: kumpul keluarga,,, ^_^  *kurang_apa_lagi"
_5at,"Doäó»a bepergian keluar rumah:  ""Bismillaahitawakkaltu äó»alallooh""  *pasrah-pasrah-pasrah; *bandara_international_lombok"
_5at,Time for riding with my lil bro: Mataram - Senggigi - Gili Terawangan *jenguk_ponakan_baru; *very_early
1821922,Salam friend

【讨论】:

  • @satya 取消注释我在代码中发布的行的 Python 2 版本。
  • 这很有帮助!非常感谢!
【解决方案2】:

我们可以通过用“,”替换新行并为每个新追加添加一个新行来实现这一点。如果您不想要任何新行,您可以删除 \n

dict[line[2]].append(line[3].replace("\n", ", "));

这里是代码

import csv;

dict={};
with open('training_data.csv','rU') as f:
    reader = csv.reader(f,skipinitialspace=True);
    for line in reader:
        try:
            dict[line[2]].append("\n"+line[3].replace("\n", ", "));
        except:
            dict[line[2]]=[line[3].replace("\n", ", ")];


with open('training_result.csv','w') as f:
    writer = csv.writer(f, delimiter=',',dialect='excel-tab');
    for key in dict:
        writer.writerow([key,','.join(dict[key])]);

【讨论】:

  • 所有添加的分号是怎么回事?在 Python 中不需要。
  • 我不想养成不以分号结尾的习惯(我每天都在做 java 和 c#:))它现在已经流血了,我更愿意保留它:)分号,至少对我来说。 tutorialspoint.com/python/python_lists.htm
  • 这不是 Python 风格。见PEP 8。公共代码应遵循预期的样式。
  • @Mark Tolonen ,很简单。我不在乎样式因为分号没有效果。我有 10 年使用 java、c 和 c# 的历史,并且刚刚开始使用 Python :)。他们在 python 中有效的分号,我感谢 Python 构建者这样做。
  • 你一定很讨厌 Python 不使用花括号 :)
猜你喜欢
  • 2012-08-27
  • 2017-09-29
  • 1970-01-01
  • 2017-05-21
  • 1970-01-01
  • 2019-03-01
  • 2023-04-03
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多