elasticsearch 得到太多结果，需要帮助过滤查询

Question

我在理解 ES 查询系统的底层时遇到了很多问题。

例如，我有以下查询：

{
  "size": 0,
  "query": {
    "bool": {
      "must": [
        {
          "term": {
            "referer": "www.xx.yy.com"
          }
        },
        {
          "range": {
            "@timestamp": {
              "gte": "now",
              "lt": "now-1h"
            }
          }
        }
      ]
    }
  },
  "aggs": {
    "interval": {
      "date_histogram": {
        "field": "@timestamp",
        "interval": "0.5h"
      },
      "aggs": {
        "what": {
          "cardinality": {
            "field": "host"
          }
        }
      }
    }
  }
}

那个请求得到太多结果：

“状态”：500，“原因”： “ElasticsearchException [org.elasticsearch.common.breaker.CircuitBreakingException： 数据太大，字段 [@timestamp] 的数据将大于限制 [3200306380/2.9gb]]；嵌套： UncheckedExecutionException[org.elasticsearch.common.breaker.CircuitBreakingException： 数据太大，字段 [@timestamp] 的数据将大于限制 [3200306380/2.9gb]]；嵌套：CircuitBreakingException [数据太 大，字段 [@timestamp] 的数据将大于限制 [3200306380/2.9gb]]； "

我已经尝试过这个请求：

{
  "size": 0,
  "filter": {
    "and": [
      {
        "term": {
          "referer": "www.geoportail.gouv.fr"
        }
      },
      {
        "range": {
          "@timestamp": {
            "from": "2014-10-04",
            "to": "2014-10-05"
          }
        }
      }
    ]
  },
  "aggs": {
    "interval": {
      "date_histogram": {
        "field": "@timestamp",
        "interval": "0.5h"
      },
      "aggs": {
        "what": {
          "cardinality": {
            "field": "host"
          }
        }
      }
    }
  }
}

我想过滤数据以获得正确的结果，任何帮助将不胜感激！

Answer 1

我找到了一个解决方案，这有点奇怪。 我已按照 dimzak 的建议清除缓存：

curl --noproxy localhost -XPOST "http://localhost:9200/_cache/clear"

然后我使用过滤而不是 Olly 建议的查询：

{
  "size": 0,
  "query": {
    "filtered": {
      "query":  {
        "term": {
          "referer": "www.xx.yy.fr"
        }
      },
      "filter" : { 
        "range": {
          "@timestamp": { 
            "from": "2014-10-04T00:00", 
            "to": "2014-10-05T00:00"
          }  
        }
      }
    }
  },
  "aggs": {
  "interval": {
    "date_histogram": {
    "field": "@timestamp",
    "interval": "0.5h"
    },
    "aggs": {
    "what": {
      "cardinality": {
      "field": "host"
      }
    }
    }
  }
  }
}

我不能给你们两个答案，我认为 dimzak 应该得到最好的答案，但是向你们两个竖起大拇指:)

Answer 2

您可以先尝试清除缓存，然后执行上述查询，如here所示。

另一种解决方案可能是删除查询中的间隔或减少时间范围...

我最好的选择是先清除缓存，或者为elasticsearch分配更多内存（更多here）

Answer 3

使用过滤器可以提高性能：

{
  "size": 0,
  "query": {
    "filtered": {
      "query":  {
          "term": {
            "referer": "www.xx.yy.com"
          }
       },
       "filter" : {"range": {
            "@timestamp": { "gte": "now", "lt": "now-1h"
              }
            }
          }
       }
    },
  "aggs": {
    "interval": {
      "date_histogram": {
        "field": "@timestamp",
        "interval": "0.5h"
      },
      "aggs": {
        "what": {
          "cardinality": {
            "field": "host"
          }
        }
      }
    }
  }
}

您可能还会发现date range 比日期直方图更好 - 您需要自己定义存储桶。

是否正在分析 referer 字段？或者你想要一个完全匹配的 - 如果是这样，请将其设置为 not_analyzed。

您的hostname 字段中有很多基数吗？您是否尝试过对值进行预散列？