如何检测是否已经有类似的文档存储在 Lucene 索引中

Question

我需要在我的数据库中排除重复项。问题是重复的文档不被视为完全匹配，而是相似的文档。为此，我决定使用FuzzyQuery，如下所示：

var fuzzyQuery = new global::Lucene.Net.Search.FuzzyQuery(
                     new Term("text", queryText),
                     0.8f,
                     0);
 hits = _searcher.Search(query);

我们的想法是将最小相似度设置为 0.8（我认为这已经足够高了），这样只会找到相似的文档，不包括那些不够相似的文档。

为了测试这段代码，我决定看看它是否找到了已经存在的文档。为变量queryText 分配了一个存储在索引中的值。上面的代码什么也没找到，换句话说，它甚至没有检测到完全匹配。

索引是由这段代码构建的：

 doc.Add(new global::Lucene.Net.Documents.Field(
            "text",
            text,
            global::Lucene.Net.Documents.Field.Store.YES,
            global::Lucene.Net.Documents.Field.Index.TOKENIZED,
            global::Lucene.Net.Documents.Field.TermVector.WITH_POSITIONS_OFFSETS));

我遵循了下面的建议，结果是： TermQuery 不返回任何结果。 使用

构造的查询

 var _analyzer = new RussianAnalyzer();
 var parser = new global::Lucene.Net.QueryParsers
                .QueryParser("text", _analyzer);
 var query = parser.Parse(queryText);
 var _searcher = new IndexSearcher
       (Settings.General.Default.LuceneIndexDirectoryPath);
 var hits = _searcher.Search(query);

返回具有完全匹配的文档和具有相似内容的其他几个文档的分数最高的几个结果。

Answer 1

查看索引内部可能会有所帮助 - 将清楚地显示您正在查询的数据以及 Lucene 如何“查看”您的数据。您可以为此使用Luke。它有一些已知的 compatibility issues 和 Lucent.NET，但总比没有好。

Answer 2

我赞同卢克的建议。其他一些可以尝试的方法：

1. 首先尝试一个精确的查询，比如对“文本”一词的 TermQuery。如果这不起作用，则不会进行模糊查询。
2. 使用Explain() 查看得分情况（前提是您获得了其他命中）。
3. 听从Debugging Relevance Issues in Search 的建议。

Answer 3

试试 Lucene 中的 MoreLikeThis 类...它有一些很棒的启发式编码，可以帮助您识别“相似”文档。