根据Kafka的消息数据写入自定义HDFS目录 - >水槽 - > hdfs摄取

时间:2015-12-29 06:18:25

标签: hadoop apache-kafka flume

如何根据Kafka消息中的消息类型使用flume写入自定义hdfs目录?

说kafka消息:{"type": "A", "data": "blah"}类型字段中包含“A”应写入/data/A,消息:{"type": "B", "data": "blah"}类型字段中包含“B”应写入{{1等等

1 个答案:

答案 0 :(得分:1)

我认为你需要定制水槽水槽。 Apache Flume custom sink