Hadoop应用程序日志大小

时间:2016-08-25 06:22:48

标签: hadoop

我正在浏览数据节点日志,对于一个特定的应用程序ID,我在下面看到了步骤

第一步显示带有字节数的应用程序ID

application_0970580980111_1399512/  4096 bytes  Aug 24, 2016 10:27:10 PM 

在这个文件夹里面我可以看到很多容器。像

container_095860509_1399512_01_000001/  4096 bytes  Aug 24, 2016 10:09:46 PM 
container_09586050091_1399512_01_000428/  4096 bytes  Aug 24, 2016 10:13:40 PM 

最后在一个容器内,我们有所有必需的日志

stderr  2043 bytes  Aug 24, 2016 10:24:18 PM 
stdout  0 bytes  Aug 24, 2016 10:09:45 PM 
syslog  297178648 bytes  Aug 24, 2016 10:29:02 PM 

我可以看到syslog大约是297178648个字节,那么显示容器和应用程序级别的4096个字节的重要性。

1 个答案:

答案 0 :(得分:1)

4096字节是文件夹的“有点默认”大小。即使某些文件夹中存在实际文件,Unix也不会计算文件夹的总文件大小。在您的情况下,container文件夹默认为4096字节,不包括stderrstdoutsyslog的大小。 另一个相关的事实是,如果你尝试hadoop fs -ls /someFolder,你将得到0作为大小。甚至可能比4096差。