【问题标题】:How to use lexicon dictionary in c#如何在c#中使用词典字典
【发布时间】:2023-03-06 16:12:01
【问题描述】:

我正在用c#做情感分析,我已经做了预处理,下一部分是基于词典的分析,为此我找到了大约6800字的英文词典lexicon by Professor Bing Liu ,其中包含两个文本文件,一个用于肯定和其他是负面的。

我在想我必须从这些文件中找到每个词(情感词),即特定词是正面的还是负面的。但问题是,这些文件包含没有任何空格的单词,没有任何格式(意味着无法从文件中识别单个单词)。

那么我怎样才能在文件中找到这个词呢?或者有没有其他方法可以让我轻松处理这个问题?

【问题讨论】:

    标签: c# dictionary nlp text-mining sentiment-analysis


    【解决方案1】:

    该文件使用\n 作为行分隔符(与标准Windows \r\n 不同)。 因此,不要使用 NotePad 或类似工具打开它,而是使用 WordPad

    要将文件加载到集合中(让它成为HashSet<String> - 您可能想要测试一个词是否在肯定词中),您可以使用林克

      HashSet<String> positives = new HashSet<String>(File
        .ReadLines(@"C:\positive-words.txt")
        .Where(item => !String.isNullOrEmpty(item) && !item.StartsWith(";")));
    
      ....
    
      String testWord = ...
    
      if (positives.Contains(testWord)) {
        ...
      }
    

    实际文件内容是

    ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
    ; 
    ; Opinion Lexicon: Positive
    ...
    ;       frequently in social media content. 
    ;
    ;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
    
    a+
    abound
    abounds
    abundance
    ...
    zenith
    zest
    zippy
    

    【讨论】:

      【解决方案2】:

      文件似乎包含由换行符 (\n) 分隔的单词,因此最简单的方法是使用 File.ReadAllLines 读取文件。

      var fileContents = File.ReadAllLines("negative-words.txt");
      var words = new HashSet<string>(fileContents.SkipWhile(x => x.StartsWith(";") || x == String.Empty));
      
      var containsWord = words.Contains("2-faced"); // The first valid word...
      

      将内容放入HashSet可以查询内容,不需要字典。

      【讨论】:

        【解决方案3】:

        实际上,该文件每行包含一个单词,但行尾是 Unix 样式而不是 Windows,因此某些编辑器(如记事本)会将所有内容显示在一行上。

        您可以轻松阅读带有File.ReadAllLines 的单词(忽略以; 开头的行,那些是cmets)。

        【讨论】:

          猜你喜欢
          • 1970-01-01
          • 2023-04-10
          • 2022-12-09
          • 1970-01-01
          • 1970-01-01
          • 2011-09-19
          • 2018-12-18
          • 1970-01-01
          • 1970-01-01
          相关资源
          最近更新 更多