ELK Grok 模式 - nginx 错误日志的可变参数数量答案

【问题标题】：ELK Grok pattern - variable number of parameters for nginx error logELK Grok 模式 - nginx 错误日志的可变参数数量
【发布时间】：2018-08-31 16:03:36
【问题描述】：

我正在尝试设置 GROK 模式来捕获 nginx 错误日志，但内容是可变的。例如，如果没有引荐来源网址，它只会将该值留在行尾：

2018/08/30 09:30:32 [error] 84843#0: *24414687217 open() "/www/sites/js/draw.js" failed (2: No such file or directory), client: 172.68.211.134, server: www.example.com, request: "GET /bundles/app/js/draw.js HTTP/1.1", host: "www.example.com"

但如果有，它会添加：

, referrer: "https://www.example.com/de/member/foo"

我当前的 GROK 模式适用于带有引用者的行，但我如何让它处理这两个示例？

%{DATA:nginx_error.time} \[%{DATA:nginx_error.level}\] %{NUMBER:nginx_error.pid}#%{NUMBER:nginx_error.tid}: (\*%{NUMBER:nginx_error.connection_id} )?%{GREEDYDATA:nginx_error.message}, client: %{IP:nginx_error.client}, server: %{HOSTNAME:nginx_error.server}, request: \"%{DATA:nginx_error.request}\", host: \"%{HOSTNAME:nginx_error.host}\", referrer: \"%{URI:nginx_error.referrer}\"

【问题讨论】：

标签： logstash elastic-stack logstash-grok

【解决方案1】：

您可以使用? 将引荐来源设为可选，例如(, referrer: )?(\"%{URI:referrer}\")?

请注意，括号 (...) 中的数据称为 capturing group。

你的模式会变成，

%{DATA:nginx_error.time} \[%{DATA:nginx_error.level}\] %{NUMBER:nginx_error.pid}#%{NUMBER:nginx_error.tid}: (\*%{NUMBER:nginx_error.connection_id} )?%{GREEDYDATA:nginx_error.message}, client: %{IP:nginx_error.client}, server: %{HOSTNAME:nginx_error.server}, request: \"%{DATA:nginx_error.request}\", host: \"%{HOSTNAME:nginx_error.host}\"(, referrer: )?(\"%{URI:referrer}\")?

【讨论】：