【问题标题】:Read log file from a remote machine with file input plugin using logstash使用 logstash 使用文件输入插件从远程机器读取日志文件
【发布时间】:2015-07-01 07:51:15
【问题描述】:

目前我的日志和 logstash 在同一台机器上运行,所以我使用这个配置(使用拉模式)读取了放在本地机器上的日志

input {     
    file {
        path => "/home/Desktop/Logstash-Input/**/*_log"
        start_position => "beginning"
    }
}

现在,我们在另一台机器上运行 logstash,并且想要读取远程机器上的日志。

有没有办法在配置文件的文件输入中设置ip?

编辑: 我设法使用作为推送模型的logstash-forwarder来做到这一点(日志托运人/logstash-forwarder会将日志发送到logstash索引服务器)但我仍然在寻找一个没有托运人的拉动模型,logstash索引服务器将直接联系到远程主机。

【问题讨论】:

    标签: logstash logstash-forwarder logstash-configuration


    【解决方案1】:

    看看 FileBeat:https://www.elastic.co/products/beats/filebeat

    这不是一个拉模型,但它似乎比 logstash-forwarder 更好。

    它监控日志文件并将它们转发到 Logstash 或 Elasticsearh。它还保留日志文件的状态,并保证事件将至少传递一次(取决于日志旋转速度)。配置非常简单:

    输入配置:

    input_type: log
    paths:
    - /opt/app/logs
    

    输出配置

    output.logstash:
      hosts: ["remote_host:5044"]
      index: filebeat_logs
    

    在logstash端你必须安装和配置Beats输入插件:

    input {
      beats {
        port => 5044
      }
    }
    

    【讨论】:

    【解决方案2】:

    Logstash 不包含任何从其他计算机的文件系统读取文件的魔法(这可能是件好事)。您要么必须挂载包含您感兴趣的日志的远程文件系统,要么必须在远程计算机上安装日志传送器(例如 Logstash)并将其配置为将数据发送到当前的 Logstash 实例(或 Redis、RabbitMQ 或 Kafka 等中间代理。

    您也可以使用 syslog 守护程序(可能已经安装在机器上)通过 syslog 协议传送日志,但请记住,不能保证每条消息的最大允许长度。

    【讨论】:

    • @Maguns 我设法使用 logstash-forwarder 这是一个推送模型,但我仍然在寻找一个没有托运人的拉取模型,logstash 索引服务器将直接与远程主机联系,但是探索tcp,你对tcp输入插件有什么想法吗
    • tcp 输入插件用于入站连接,即它仍然需要其他主机连接到 Logstash。
    • @LambodarSwain 你最终得到了什么来为多个日志构建拉模型?我也在考虑共享文件系统来聚合来自 tomcats 的日志,然后使用 logstash 文件插件读取它们。谢谢!
    【解决方案3】:

    您可以在路径中添加远程系统 IP 并从远程计算机访问日志。

    input {     
    file {
        path => "\\IP address/home/Desktop/Logstash-Input/**/*_log"
        start_position => "beginning"
    }}
    

    【讨论】:

    • 这仅适用于 Windows 系统,但问题中的文件路径表明 OP 不运行 Windows。
    • @Magnus Back, K back 实际上我在 Windows 上工作。我给出了我的示例
    • 是的,但是 OP 很可能不运行 Windows,因此答案不是很有用,因为那里通常不支持通过 UNC 路径访问网络资源。
    • 运气不好@AnilkumarBattula,顺便说一下我使用的是linux,但感谢您的回答:)
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-06-23
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多