将csv导入elasticsearch

Question

我正在做“弹性搜索入门”教程。不幸的是，本教程没有介绍将csv 数据库导入elasticsearch 的第一步。

我用谷歌搜索找到解决方案，但不幸的是它不起作用。以下是我想要实现的和我拥有的：

我有一个要导入的数据文件（简化版）

id,title
10,Homer's Night Out
12,Krusty Gets Busted

我想使用logstash 导入它。经过互联网研究，我最终得到以下配置：

input {
    file {
        path => ["simpsons_episodes.csv"]
        start_position => "beginning"
    }
}

filter {
    csv {
        columns => [
            "id",
            "title"
        ]
    }
}

output {
    stdout { codec => rubydebug }
    elasticsearch {
        action => "index"
        hosts => ["127.0.0.1:9200"]
        index => "simpsons"
        document_type => "episode"
        workers => 1
    }
}

我在指定文档类型时遇到了问题，因此一旦导入数据并导航到 http://localhost:9200/simpsons/episode/10，我希望看到第 10 集的结果。

Answer 1

干得好，您就快到了，您只是缺少文档 ID。您需要像这样修改elasticsearch 输出：

elasticsearch {
    action => "index"
    hosts => ["127.0.0.1:9200"]
    index => "simpsons"
    document_type => "episode"
    document_id => "%{id}"             <---- add this line
    workers => 1
}

在此之后，您将能够查询 id 为 10 的剧集

GET http://localhost:9200/simpsons/episode/10

Answer 2

我是moshe/elasticsearch_loader的作者
我为这个确切的问题编写了 ESL。
可以用 pip 下载：

pip install elasticsearch-loader

然后您将能够通过发出以下命令将 csv 文件加载到 elasticsearch 中：

elasticsearch_loader --index incidents --type incident csv file1.csv

此外，您可以通过在命令行中添加--id-field=document_id 来使用自定义id 文件