【问题标题】:language independent tool for named entity recognition用于命名实体识别的语言无关工具
【发布时间】:2012-05-30 09:05:09
【问题描述】:

有人知道是否有任何独立于语言的命名实体识别库吗?

谢谢

【问题讨论】:

  • 支持世界上所有语言的现成工具肯定不存在。您是在寻找可以根据自己的数据进行训练的东西,还是寻找可以处理多种语言的工具?如果是后者,哪些语言?
  • 我喜欢为我自己的马其顿语开发一个工具。我知道不可能有一个独立的库,但也许有些对我没有什么帮助:)
  • 您可以选择任何好的并在马其顿标记的数据上重新训练它。这在斯坦福的 CRF-NER 中很常见,虽然结果远非完美,但作为基线通常已经足够了。

标签: nlp named-entity-recognition


【解决方案1】:

我怀疑。

理论上,如果您拥有大量带注释的语料库,则可以使用纯监督学习技术。但是,如果您不能使用依赖于语言的规则、启发式或特征,并且您正在寻找高精度和召回率 - 语料库的大小将必须是巨大的。我敢说,对于任何给定的人类口语,可能没有足够的注释数据来完成此类任务。

【讨论】:

    【解决方案2】:

    我认为多语言 BERT 模型是一个很好的起点,但您仍需要在特定数据集上对其进行微调。如果您正在寻找的语言根本没有资源,您可以尝试在类似的语言上对其进行微调。要考虑的另一件事是将标签从一种语言转移到另一种语言。一种方法是使用多语言嵌入并搜索从源语言到目标语言的最近邻,然后以这种方式进行翻译。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2013-10-19
      • 2021-06-27
      • 2012-07-02
      • 1970-01-01
      • 2014-03-17
      • 2012-11-25
      • 2010-09-16
      • 2022-10-14
      相关资源
      最近更新 更多