当我打开jobtrackerhost:50030 / jobtracker.jsp
时我可以看到堆大小像: 群集摘要(堆大小为1.17 GB / 7.99 GB)
它继续增加。 3-5天后,它会长到最高峰。
我们有2个Hadoop集群。 在群集A上,堆大小会在峰值周围停止增加。 在群集B上,堆大小继续增加,3-5天后,jobtracker关闭。 (过程消失了)
现在我真的想知道为什么堆大小继续增加?是正常还是有问题?
谢谢, 莘松
答案 0 :(得分:0)
@vefthym,我认为mapred-site.xml文件不完整,因为hadoop集群由Cloudera Manager管理。
以下是mapred-site.xml中的内容
<?xml version="1.0" encoding="UTF-8"?>
<!--Autogenerated by Cloudera CM on 2013-07-01T01:39:46.361Z-->
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://xxxx.com:8020</value>
</property>
<property>
<name>io.file.buffer.size</name>
<value>65536</value>
</property>
<property>
<name>io.compression.codecs</name>
<value>org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.BZip2Codec,org.apache.hadoop.io.compress.DeflateCodec,org.apache.hadoop.io.compress.SnappyCodec,org.apache.hadoop.io.compress.Lz4Codec</value>
</property>
<property>
<name>hadoop.security.authentication</name>
<value>simple</value>
</property>
<property>
<name>hadoop.rpc.protection</name>
<value>authentication</value>
</property>
<property>
<name>hadoop.security.auth_to_local</name>
<value>DEFAULT</value>
</property>
</configuration>