启动hadoop时遇到问题。
DataBlockScanner最多占用一个CPU的100%。
主日志是:
2012-04-02 11:25:49,793 INFO org.apache.hadoop.hdfs.StateChange: BLOCK NameSystem.processReport:从192.168.33.44:50010,块:16148,处理时间:13毫秒
奴隶日志是:
2012-04-02 11:09:34,109 INFO org.apache.hadoop.hdfs.server.datanode.DataBlockScanner:验证 成功为blk_-1757906724564777881_10532084
我检查了hadoop fsck,发现没有错误或损坏。
为什么CPU使用率如此之高,以及如何停止块验证?
答案 0 :(得分:0)
如果没有深入挖掘来确认,这可能只是启动时的问题,因为datanode必须树遍历数据目录(/ ies)以发现所有块,然后将它们报告给namenode。再次没有源我无法确认是否在启动时验证了每个块的校验和,这可能是100%CPU的原因。
答案 1 :(得分:0)
谢谢。我认为我的CPU使用率如此之高,因为闰秒。我认为问题是java。当我启动hadoop时,cpu使用率如此之高。