【问题标题】:How to use a compass lucene generated cfs index?如何使用罗盘 lucene 生成的 cfs 索引?
【发布时间】:2021-01-28 18:31:13
【问题描述】:

使用(最新的)lucene 8.7 是否可以使用 lucene 实用程序“Luke”在我无法修改的旧应用程序中打开由 2009 年左右的 lucene 2.2 生成的 .cfs 复合索引文件? 或者,是否可以从 .cfs 为 Luke 生成 .idx 文件? .cfs 是在 lucene 2.2 之上由 compass 生成的,而不是由 lucene 直接生成的 是否可以使用包含以下内容的指南针生成的索引:
_b.cfs
段.gen
段_d

可能与 solr 一起使用?

是否有任何示例如何在任何地方使用指南针打开基于文件的 .cfs 索引?

转换工具无法使用,因为索引版本太旧:

来自 lucene\build\demo:

java -cp ../core/lucene-core-8.7.0-SNAPSHOT.jar;../backward-codecs/lucene-backward-codecs-8.7.0-SNAPSHOT.jar org.apache.lucene.index .IndexUpgrader -verbose path_of_old_index

还有搜索文件演示:

java -classpath ../core/lucene-core-8.7.0-SNAPSHOT.jar;../queryparser/lucene-queryparser-8.7.0-SNAPSHOT.jar;./lucene-demo-8.7.0- SNAPSHOT.jar org.apache.lucene.demo.SearchFiles -index path_of_old_index

都失败了:

org.apache.lucene.index.IndexFormatTooOldException:不支持格式版本 此版本的 Lucene 仅支持使用 6.0 及更高版本创建的索引。

是否可以以某种方式将旧索引与 lucene 一起使用?如何使用旧的“编解码器”? 如果可能,也来自 lucene.net?

当前的 lucene 8.7 生成一个包含这些文件的索引:

segments_1
写锁
_0.cfe
_0.cfs
_0.si

================================================ ============================ 更新:令人惊讶的是,它似乎用 nuget 的 lucene.net v. 3.0.3 打开了那个非常旧的格式索引!

这似乎可以从索引中提取所有术语:

    using System;
    using System.Collections.Generic;
    using System.Linq;
    using System.Text;
    using System.Threading.Tasks;
    using System.Globalization;
    
    using Lucene.Net.Analysis.Standard;
    using Lucene.Net.Documents;
    using Lucene.Net.Index;
    using Lucene.Net.QueryParsers;
    using Lucene.Net.Search;
    using Lucene.Net.Store;
    using Version = Lucene.Net.Util.Version;
    
    namespace ConsoleApplication1
    {
        class Program
        {
            static void Main()
            {
    
                var reader = IndexReader.Open(FSDirectory.Open("C:\\Temp\\ftsemib_opzioni\\v210126135604\\index\\search_0"), true);
                Console.WriteLine("number of documents: "+reader.NumDocs() + "\n");
                Console.ReadLine();
    
                TermEnum terms = reader.Terms();
                while (terms.Next())
                {
                    Term term = terms.Term;
                    String termField = term.Field;
                    String termText = term.Text;
                    int frequency = reader.DocFreq(term);
                    Console.WriteLine(termField +" "+termText);
                }
                var fieldNames = reader.GetFieldNames(IndexReader.FieldOption.ALL);
                int numFields = fieldNames.Count;
                Console.WriteLine("number of fields: " + numFields + "\n");
                for (IEnumerator<String> iter = fieldNames.GetEnumerator(); iter.MoveNext();)
                {
                    String fieldName = iter.Current;
                    Console.WriteLine("field: " + fieldName);
                }
                reader.Close();
    
                Console.ReadLine();
            }
        }
    
    }

出于好奇,是否有可能找出它是什么索引版本? 有没有基于文件系统索引的(旧)指南针示例?

【问题讨论】:

    标签: lucene lucene.net compass


    【解决方案1】:

    很遗憾,您不能使用旧的Codec 从 Lucene 2.2 访问索引文件。这是因为编解码器是在 Lucene 4.0 中引入的。在此之前,用于读取和写入索引文件的代码并没有组合到编解码器中,而是本质上只是整个 Lucene 库的一部分。

    因此,在 4.0 之前的 Lucene 版本中,没有编解码器,只有文件读取和写入库中的代码。追踪所有这些代码并创建一个可以插入现代版本的 Lucene 的编解码器将是非常困难的。这不是一项不可能完成的任务,但它需要专家 Lucene 开发人员和大量的努力(即极其昂贵的努力)。

    鉴于所有这些,这个 SO 问题的答案可能会有一些用处:How to upgrade lucene files from 2.2 to 4.3.1

    更新

    您最好的选择是使用 java lucene 的旧 3.x 副本或 Lucene.net ver 3.0.3 打开索引,然后添加并提交一个文档(这将创建第二个段)并执行优化这将导致两个段合并为一个新段。新段将是版本 3 段。然后,您可以再次使用 Lucene.Net 4.8 Beta 或 Java Lucene 4.X 执行相同的操作(但 Commit 从版本 4 开始更名为 ForceMerge)以将索引转换为 4.x 索引。

    然后您可以使用当前 Java 版本的 Lucene 8.x 再次执行此操作以将索引一直移动到 8,因为当前版本的 Java Lucene 的编解码器一直回到 5.0 请参阅:@ 987654322@

    但是,如果您再次收到您报告的错误:

    此版本的 Lucene 仅支持使用 6.0 及更高版本创建的索引。

    那么您将不得不使用 6.x 版本的 Java Lucene 再玩一个周期才能从 5.x 索引升级到 6.x 索引。 :-)

    【讨论】:

    • 嗯 apache lucene 就是这种情况,我没有调查它的来源,但是,如果有人知道 c# lucene.net,在我看来,凭经验,打开古老的 .cfs自动 2009 年,除非我有幻觉,以防万一任何了解 lucene.net 的人可能会在 lucene java 中提供一些工具,以便出于向后兼容性的原因也打开旧索引。
    • 我对 Lucene.Net 比较熟悉,前几天我什至为该项目的当前 4.8 beta 版本贡献了代码。此外,我与项目负责人确认,核心代码基于 Java Lucene 4.8(Lucene.Net 的其他一些方面基于 Java Lucene 4.8.1) Lucene.Net 4.8 确实包含 Lucene 的编解码器3.x 以便它可以支持对先前版本的向后兼容性,但不能再往前了。您可以在此处查看项目中包含的代码:github.com/apache/lucenenet/tree/master/src/Lucene.Net/Codecs
    • 有没有办法从 lucene.net 报告索引版本?
    • How to determine the lucene index version? 虽然我不确定我是否同意那里提出的方法。如果您通过SegmentReader 打开一个片段,您可以通过SegmentReader.SegmentInfo.Info.Codec.Name 访问编解码器名称,您可以从中直观地了解版本。例如。名称为“Lucene46”,这是 Lucene.Net 4.8 使用的编解码器。如果您对获取版本还有其他问题,请为此打开一个单独的 StackOverflow 问题。
    • 在 lucene.net 我试过:目录 dir = FSDirectory.Open(args[0]); IndexReader 阅读器 = IndexReader.Open(dir, true); Console.WriteLine("文档数:"+reader.NumDocs() + "\n"); Console.ReadLine();长版本= IndexReader.GetCurrentVersion((Directory)dir);它返回 1611665876477 十进制
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-11-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多