【问题标题】:Flume agent - can I specify compression like gzip or bz2?Flume 代理 - 我可以指定 gzip 或 bz2 之类的压缩吗?
【发布时间】:2011-07-04 17:10:09
【问题描述】:

是否可以在 Flume 代理上指定压缩选项,以便将数据以压缩格式传输到收集器?我知道收集器级别有压缩选项,但能够从代理传输压缩数据也非常有用。

谢谢!

【问题讨论】:

    标签: hadoop agent cloudera flume


    【解决方案1】:

    Flume 有您可以使用的 gzipgunzip 水槽装饰器。将gzip 装饰器放在代理接收器上,将gunzip 装饰器放在收集器接收器上,在代理和收集器之间传输压缩数据应该可以正常工作。

    【讨论】:

    • 是否可以在代理上压缩数据并让它通过收集器压缩到 HDFS 中而无需再次解压缩/压缩它?
    猜你喜欢
    • 1970-01-01
    • 2010-11-29
    • 1970-01-01
    • 2011-06-02
    • 1970-01-01
    • 1970-01-01
    • 2017-04-02
    • 2011-03-20
    • 1970-01-01
    相关资源
    最近更新 更多