压缩Apache Flume中的数据

时间:2016-01-15 11:40:38

标签: compression apache-kafka flume

我正在从Kafka读取数据并沉入HDFS。有没有什么方法Flume可以压缩数据和存储在HDFS中。 (数据未在Kafka中压缩)

1 个答案:

答案 0 :(得分:0)

尝试在接收器配置中设置这两个参数:

hdfs.codeC= one of following -> gzip, bzip2, lzo, lzop, snappy hdfs.fileType=CompressedStream

flume user guide

中提供了更多信息