如果输入文件有任何更改,则将日志写入hdfs

时间:2015-04-08 08:29:52

标签: hadoop hdfs flume-ng

我是Apache Flume的新手,我有一个用例,我有一个输入文件“sample.txt”,它会定期更新,最初包含以下数据

Name   Age    Sex   Address
xxx     20    M        Chennai

有时会更新为

Name   Age    Sex   Address
YYY    25      F     Salem
ZZZ    18      M     Covai

我希望只要输入文件发生更改,就可以使用Apache flume将此文件写入hdfs。任何人都可以建议我链接或任何人可以告诉我如何实现这个

1 个答案:

答案 0 :(得分:2)

你可以将水槽尾作为一个来源。我指的是一些网址。请参考它们。

   http://www.rittmanmead.com/2014/05/trickle-feeding-webserver-log-files-to-hdfs-using-apache-flume/

   http://www.ibm.com/developerworks/library/bd-flumews/

   http://mapredit.blogspot.in/2012/03/flumeng-evolution.html

    https://flume.apache.org/FlumeUserGuide.html

    http://stackoverflow.com/questions/13721930/flume-ng-tail-a-file