Flume 将 txt 文件更改为二进制文件答案

【问题标题】：Flume changing txt files to binariesFlume 将 txt 文件更改为二进制文件
【发布时间】：2014-05-07 18:53:43
【问题描述】：

我正在使用 Flume 假脱机目录并将文件上传到 hdfs。这些是 txt/csv 文件，我希望它们采用 hdfs 格式。但是 Flume 将它们作为二进制文件加载...

这是我的配置：

tier1.sources  = source1
tier1.channels = channel1
tier1.sinks    = sink1

tier1.sources.source1.type     = spooldir
tier1.sources.source1.channels = channel1
tier1.sources.source1.spoolDir = /var/data
tier1.sources.source1.fileHeader = false
tier1.sources.source1.deletePolicy = immediate
tier1.channels.channel1.type   = memory
tier1.sinks.sink1.type         = hdfs
tier1.sinks.sink1.channel      = channel1
tier1.sinks.sink1.hdfs.path = /user/hdfs/%y-%m-%d/
tier1.sinks.sink1.hdfs.writeFormat=Text
tier1.sinks.sink1.hdfs.useLocalTimeStamp = true
tier1.sinks.sink1.hdfs.rollInterval = 30

tier1.channels.channel1.capacity = 100

要让 Flume 将 txt 文件加载为 txt 文件，我应该改变什么？

【问题讨论】：

标签： hadoop hdfs flume spool

【解决方案1】：

这应该可以解决您的问题：

tier1.sinks.sink1.hdfs.fileType = 数据流

tier1.sinks.sink1.hdfs.writeFormat = 文本

【讨论】：

无论如何都不能解决这个问题，telnet 中的行保存在 HDFS 上的二进制文件中。