【问题标题】:In Lucene how can a TokenFilter emit more than one term?在 Lucene 中,一个 TokenFilter 如何发出多个词?
【发布时间】:2011-06-17 15:15:52
【问题描述】:

我正在使用 Lucene 3.2。如何使用不仅过滤/修改术语,还可以将其他术语插入流中的 TokenFilter?

例如,我想要一个将“tv42lcd”作为输入并将“tv42lcd”、“tv”、“42”、“lcd”字样插入到流中的过滤器。

我知道我可以通过实现自己的 Tokenizer 来做到这一点。但我还是宁愿使用提供的 StandardTokenizer。

【问题讨论】:

  • 您的分词器如何知道在哪里拆分条款?例如为什么不是“tv42lcd”、“tv”、“42”、“lc”、“d”或“tv4”、“2l”、“cd”?
  • 这只是一个例子。但在我的应用程序中,我根据数字字符进行拆分。

标签: java lucene tokenize


【解决方案1】:

您始终可以将默认与自定义混合使用:尽可能使用StandardTokenizer 逻辑,然后包装其输出并在顶部添加自定义标记化。您可以通过扩展来实现这一点,但它是almost always better to use composition

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2011-11-28
    • 2011-03-28
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2013-06-16
    相关资源
    最近更新 更多