【问题标题】:What are the entity types for NLTK?NLTK 的实体类型是什么?
【发布时间】:2017-07-20 09:37:37
【问题描述】:

我一直在尝试查找 NLTK 实体类型的完整列表。我只能在this page 上找到最常见的,但不是完整列表。您能否分享 NLTK 拥有的命名实体类型的完整列表?

【问题讨论】:

  • 也许stackoverflow.com/a/44240423/610569 会有所帮助;P
  • 这很好@alvas,但即使经过那里的解释并点击three types of NE classes,三个列表中没有一个与分块器报告的实际标签匹配......并且没有一个包含“GSP “,那是怎么回事?
  • @alexis 好点。我怀疑ne_chunk 是斯坦福大学Java maxent 标记器的Python 端口的神秘神器。是的,GSP 看起来像是人们现在不使用的古老标签,我只想简单地将其标记为 ORGANIZATION。提出的问题:github.com/nltk/nltk/issues/1783

标签: nltk named-entity-extraction


【解决方案1】:

这是一个很好的问题,我自己也有同样的疑惑。它似乎没有在任何地方记录,即使在 nltk 源中也是如此,当然,它是由语料库决定的,分块器被训练过——似乎是或曾经是 the ACE corpus,它不是随nltk。

在源代码中稍微挖掘一下就找到了答案:

>>> chunker=nltk.data.load(nltk.chunk._MULTICLASS_NE_CHUNKER) # cf. nltk/chunk/__init__.py
>>> sorted(chunker._tagger._classifier.labels())
['B-FACILITY', 'B-GPE', 'B-GSP', 'B-LOCATION', 'B-ORGANIZATION', 'B-PERSON', 
 'I-FACILITY', 'I-GPE', 'I-GSP', 'I-LOCATION', 'I-ORGANIZATION', 'I-PERSON',
 'O']

请注意,本书中提到的一些“常见”类型,包括 DATE 和 TIME,实际上并没有被这个分块器检测到。 GPE 代表 Geo-Political Entity, GSP 代表 Geographical-Social-Political Entity, 在 ACE 项目中被 GPE 取代的旧标签。根据它们的定义(见下面的链接),它们似乎几乎是等价的。

编辑, 2019 年 1 月:在 Daniel 的问题提示下,我自己查看了 documentation of the ACE project 以寻找对这些实体的描述。果然,this page 链接到项目每个阶段的文档。上面列出的实体名称,包括神秘的 GSP 但没有 GPE 实体,通过项目的phase 1 使用。从phase 2 开始,GPE 取代了列表中的 GSP。人们不得不想知道 nltk 分块器最终是如何在同时 GPE 和 GSP 上进行训练的,或者它是如何在两者之间做出决定的。我最好的猜测是,它是在第 1 阶段和第 2 阶段材料的组合上训练的。

【讨论】:

  • 谢谢,@alexis。我计划针对这些类型设计我的数据库,但这似乎更加令人困惑。在this document中,它还提到了7个实体((PER、ORG、GPE、LOC、FAC、VEH、WEA),但只公开了其中的5个。我不知道VEH和WEA是什么
  • 车辆和武器,根据我链接到的文件。训练 nltk 分块器的人可能已经重新映射了训练数据中的某些类别。只需选择可以为您的目的和您的文本类型可靠地手动分配的类别。
  • 普惠制代表什么?我无法在任何文档中找到有关它的任何信息。我唯一能想到的就是地理空间实体,它似乎和 GPE 是一样的。
  • 我自己看了一下,运气还不错。请参阅编辑后的答案。
猜你喜欢
  • 2017-02-10
  • 1970-01-01
  • 1970-01-01
  • 2011-02-16
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2010-10-05
  • 1970-01-01
相关资源
最近更新 更多