在异构YARN集群中配置NodeManager内存和vcores?

时间:2016-09-09 10:34:34

标签: memory-management yarn ambari

我知道使用以下属性在YARN中设置内存和vcores:

  
      
  • yarn.nodemanager.resource.memory-MB
  •   
  • yarn.nodemanager.resource.cpu-vcores
  •   

我有一个异构的YARN集群,其节点具有以下配置:

  
      
  • Node1(8核,16GB RAM)
  •   
  • Node2(8核,16GB RAM)
  •   
  • Node3(32位,64GB RAM)
  •   
  • Node4(32位,64GB RAM)
  •   

我想为Node1,Node2和Node3,Node4设置nodemanager内存和内核。

Node1&节点2

  
      
  • yarn.nodemanager.resource.memory-mb = 10240
  •   
  • yarn.nodemanager.resource.cpu-vcores = 15
  •   

Node3&节点4

  
      
  • yarn.nodemanager.resource.memory-mb = 40240
  •   
  • yarn.nodemanager.resource.cpu-vcores = 25
  •   

如何使用/不使用Ambari实现此目的?

1 个答案:

答案 0 :(得分:1)

没有Ambari:

您可以通过在各个节点的 yarn-site.xml 中配置上述属性并重新启动YARN服务来直接实现异构资源分配。

使用Ambari:

在Ambari中,您可以从 Configuration Groups individual nodes 群集创建 Manage Configuration Group 链接在 Configs 旁边的 Group drop down 标签上显示。创建配置组时,您可以选择选择要应用配置的节点。为单个节点创建配置后,可以通过重新启动YARN服务来应用更改。按照Heterogeneous Configuration了解如何配置。