我正在使用flume-ng及其HDFS接收器。现在,如果我将一些文件添加到给定文件夹中,它也会自动存储在HDFS中。它工作正常;但是我注意到HDFS中文件的大小非常小。因此,如果我将1GB文件放入给定文件夹,它将由数百个文件存储在HDFS中。我可以让HDFS中的文件大小更大吗?如何在flume-conf.properties中配置它?
答案 0 :(得分:0)
您是否尝试过增加hdfs.rollSize
。
有一个开放的jira有助于增加hdfs块大小https://issues.apache.org/jira/browse/FLUME-2003