【问题标题】:ElasticSearch Performance : Continuous read/write vs Bulk writeElasticSearch 性能:连续读/写与批量写入
【发布时间】:2013-11-09 02:02:54
【问题描述】:

我是弹性搜索的新手。我需要实施一个系统,我将全天连续获取数据。我想让这个数据提要可搜索,所以我使用 ElasticSearch。

现在,我有两种方法可以解决这个问题: 1) 将提要中的数据存储在 mongo 中。并定期将此数据提供给 ElasticSearch,假设每天两次。 2) 直接将数据馈送到 ElasticSearch,这是一个连续的过程。同时 ElasticSearch 必须执行搜索查询。

我预计每秒大约 20 个条目来自数据馈送,并且 ElasticSearch 每秒执行大约 2-3 个查询。

请指教。

【问题讨论】:

    标签: elasticsearch


    【解决方案1】:

    你应该优化你的索引结构和应用程序代码:

    1. 为每一天创建单独的索引
    2. 增加分片数量(你 应该根据您的硬件配置进行试验)
    3. 对于老 天索引,您应该关闭它们或聚合成大周期 (另一个月份的索引)使用一些批处理

    根据我的测试,每秒 20 次插入对于 elasticsearch 来说并不是很大的负载

    【讨论】:

      【解决方案2】:

      您能告诉我们更多关于您的集群架构的信息吗?多少个节点?所有节点都有数据还是网关节点? 通常我会说直接喂给 elasticsearch 应该不是问题。每秒 2-3 次查询对于 elasticsearch 来说根本不算多。

      【讨论】:

      • 我将使用单节点开始。你认为 ES 可以处理它自己的索引,同时提供查询而不影响性能吗?
      • 当然它不会像不同时写那么快,但问题是它是否太慢了。我会说它仍然足够快。您可以在决定选择一个选项之前设置集群并测试性能...
      • 如果写入速度为每秒 500-600 次,将会发生什么或者是首选选项。与读取相同。
      猜你喜欢
      • 2018-08-29
      • 2014-02-03
      • 2016-11-19
      • 1970-01-01
      • 2021-09-25
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多