【发布时间】:2011-06-17 15:15:52
【问题描述】:
我正在使用 Lucene 3.2。如何使用不仅过滤/修改术语,还可以将其他术语插入流中的 TokenFilter?
例如,我想要一个将“tv42lcd”作为输入并将“tv42lcd”、“tv”、“42”、“lcd”字样插入到流中的过滤器。
我知道我可以通过实现自己的 Tokenizer 来做到这一点。但我还是宁愿使用提供的 StandardTokenizer。
【问题讨论】:
-
您的分词器如何知道在哪里拆分条款?例如为什么不是“tv42lcd”、“tv”、“42”、“lc”、“d”或“tv4”、“2l”、“cd”?
-
这只是一个例子。但在我的应用程序中,我根据数字字符进行拆分。