如何找到最慢的数据节点？

Question

我安装了一个具有15个数据节点的HDFS集群。有时，整个hdfs群集的写入性能很慢。

我如何找到最慢的数据节点，哪个节点会导致此问题。

Answer 1

数据节点运行缓慢的最常见原因是磁盘损坏。磁盘超时错误（EIO）的默认范围是30到90秒，因此该磁盘上的任何活动都将花费很长时间。

您可以通过在hdfs-site.xmls中查看每个数据节点的dfs.datanode.data.dir并验证所提到的每个目录是否确实有效来进行检查。 例如：

• 在目录上运行ls
• cd进入目录
• 在目录下创建文件
• 写入目录下的文件
• 读取目录下文件的内容

如果这些活动中的任何一项不起作用或花费很长时间，那就是您的问题。

您还可以在每个主机上运行dmesg并查找磁盘错误。

其他信息

• HDFS DataNode Scanners and Disk Checker Explained
• HDFS-7430-重写BlockScanner以使用O（1）内存并使用多个线程
• https://superuser.com/questions/171195/how-to-check-the-health-of-a-hard-drive