我知道使用以下属性在YARN中设置内存和vcores:
- yarn.nodemanager.resource.memory-MB
- yarn.nodemanager.resource.cpu-vcores
我有一个异构的YARN集群,其节点具有以下配置:
- Node1(8核,16GB RAM)
- Node2(8核,16GB RAM)
- Node3(32位,64GB RAM)
- Node4(32位,64GB RAM)
我想为Node1,Node2和Node3,Node4设置nodemanager内存和内核。
Node1&节点2
- yarn.nodemanager.resource.memory-mb = 10240
- yarn.nodemanager.resource.cpu-vcores = 15
Node3&节点4
- yarn.nodemanager.resource.memory-mb = 40240
- yarn.nodemanager.resource.cpu-vcores = 25
如何使用/不使用Ambari实现此目的?
答案 0 :(得分:1)
没有Ambari:
您可以通过在各个节点的 yarn-site.xml
中配置上述属性并重新启动YARN服务来直接实现异构资源分配。
使用Ambari:
在Ambari中,您可以从 Configuration Groups
为 individual nodes
群集创建 Manage Configuration Group
链接在 Configs
旁边的 Group drop down
标签上显示。创建配置组时,您可以选择选择要应用配置的节点。为单个节点创建配置后,可以通过重新启动YARN服务来应用更改。按照Heterogeneous Configuration了解如何配置。