我们在HDFS 2.7.3上运行了一个火花串流应用程序,Yarn作为资源管理器。在运行应用程序时,这两个文件夹:
/tmp/hadoop/data/nm-local-dir/filecache
/tmp/hadoop/data/nm-local-dir/filecache
正在填满因此磁盘。因此,根据我的研究发现,在yarn-site.xml中配置这两个属性会有所帮助。
<property>
<name>yarn.nodemanager.localizer.cache.cleanup.interval-ms</name>
<value>2000</value>
</property>
<property>
<name>yarn.nodemanager.localizer.cache.target-size-mb</name>
<value>2048</value>
</property>
我已在每个namenode和masternode上的yarn-site.xml上配置它们,并使用 stop-yarn.sh start-yarn.sh 重新启动masternode上的纱线。然而,这似乎没有帮助。在进行配置更改时我是否遗漏了任何内容?我们如何确保将这些更改传播到所有工作节点?
答案 0 :(得分:0)
YARN工作者是由ResourceManager管理的NodeManager。 HDFS使用数据节点和名称节点。为了使这些更改生效,必须在所有运行NodeManager的主机上重新启动YARN。