Python writerows 仅将 NLTK FreqDist 的最后一行写入 csv 文件

Question

我一直在编写 Python 代码来使用 Python 列表中包含的单词 (word_list) 来查找文本文档中包含的单词的频率分布。程序计算频率分布，我可以将它们打印到屏幕上，但是当我尝试将频率分布写入 .csv 文件，它只重复写入FreqDist 的最后一行，因为目录中有许多文本文件。我的代码如下

CIK_List = []


for filename in glob.glob(os.path.join(test_path, '*.txt')):

 CIK = re.search(r"\_([0-9]+)\_", filename) # extract the CIK from the filename

 path = nltk.data.find(filename)
 raw = open(path, 'r').read()

 tokens = word_tokenize(raw)
 words = [h.lower() for h in tokens]
 f_dist = nltk.FreqDist([s.lower() for s in words])
 print(f_dist)

 wordcount = collections.Counter()

 CIK_List.append(CIK) 
 with open(file_path, 'w+', newline= '') as csv_file:
  writer = csv.writer(csv_file)
  writer.writerow(["CIK"] + word_list)
  for m in word_list:
    print([CIK.group(1)], [f_dist[m]], end='')

  for val in CIK_List:
     writer.writerows(([val.group(1)] + [f_dist[m] for m in word_list],))

Answer 1

问题在于，对于您读取的每个输入文件，您都会创建输出文件并写入

看看代码末尾的以下循环。它有什么作用？

  for val in CIK_List:
     writer.writerows(([val.group(1)] + [f_dist[m] for m in word_list],))

CIK_List 是一个正则表达式匹配列表。对于每个这样的正则表达式匹配，我们写出第一个匹配组（它是文件名的数字部分），然后我们写出 不依赖于val 的东西。因此，当val 遍历正则表达式匹配列表时，您会一次又一次地获得相同的输出。

您还多次打开文件，每个输入文件一次，每次打开文件时，您都会丢弃以前的内容。

您可能想要做的是打开输出文件一次，写出标题行，然后，对于每个输入文件，根据该输入文件的内容将一行写入输出文件：

CIK_List = []
with open(file_path, 'w+', newline= '') as csv_file:
    writer = csv.writer(csv_file)
    writer.writerow(["CIK"] + word_list)

    for filename in glob.glob(os.path.join(test_path, '*.txt')):

        CIK = re.search(r"\_([0-9]+)\_", filename) # extract the CIK from the filename

        path = nltk.data.find(filename)
        raw = open(path, 'r').read()
        
        tokens = word_tokenize(raw)
        words = [h.lower() for h in tokens]
        f_dist = nltk.FreqDist([s.lower() for s in words])
        print(f_dist)
        
        wordcount = collections.Counter()

        CIK_List.append(CIK) 
        for m in word_list:
            print([CIK.group(1)], [f_dist[m]], end='')

        writer.writerow([CIK.group(1)] + [f_dist[m] for m in word_list])