在主节点/备用节点上调度YARN应用程序

时间:2018-11-21 21:29:00

标签: yarn

我想将一个群集分为两个子群集:“活动”节点和“备用”节点。 通常,在计划了应用程序后,我希望它在“活动”节点上运行。但是,如果没有“活动”节点运行正常,我希望它在“备用”节点上运行。

是否可以在YARN中实现这种行为?

要提供更多细节,群集的“活动”节点将与“备用”节点位于不同的区域(但距离它们不远)。 因此,我们尝试为我们的应用程序实现多区域高可用性。这意味着,一旦“活动”区域发生灾难,该应用程序将被恢复并安排在“备用”区域中。

1 个答案:

答案 0 :(得分:1)

要将作业路由到特定节点,您将需要节点标签。 Capacity Scheduler已经有一段时间了(2.6或更早版本),但是对于Fair Scheduler,我认为他们正在计划在Hadoop 3.x中对其进行支持。

要考虑的另一种选择是YARN联合,其中您有多个YARN群集,因此您的第二个将位于区域2中,并且如果区域1出现问题,您可以将作业重新路由到区域2中。

参考文献