当我们在EMR自动缩放中给出多个放大规则时会发生什么?

时间:2019-01-22 07:47:24

标签: amazon-web-services amazon-emr autoscaling

我有两个横向扩展规则: 比例放大规则1:如果YARNMemoryAvailablePercentage小于15,则持续1个五分钟,冷却时间为300秒,则添加1个实例。 比例尺递增规则2:如果ContainerPendingRatio在1个五分钟的时间内(大于300秒的冷却时间)大于0.75,则添加5个实例。

我可以为规则添加优先级吗?

3 个答案:

答案 0 :(得分:3)

问题1)是否处理​​这两个规则?有命令吗?

当两个规则同时触发时,将仅处理一个规则,EC2 Auto Scaling将选择提供最大容量的策略。 在您的情况下,“ Scale-out-rule-1”将添加5个实例,并且“ Scale-out-rule-1”将被暂停。

参考:https://docs.aws.amazon.com/autoscaling/ec2/userguide/as-scale-based-on-demand.html#multiple-scaling-policy-resolution

问题2)如果仅处理一条规则,那么处理哪一条,为什么?

上面解释了

答案 1 :(得分:1)

我想分享我所学到的发现

===两个规则====

  • 向外扩展规则1: 如果YARNMemoryAvailablePercentage <1持续5分钟且冷却时间为300秒,则添加1个实例。

  • 向外扩展规则2: 如果ContainerPendingRatio在1个五分钟的时间内> .75且冷却时间为300秒,则添加5个实例。

EMR群集内部使用“ Amazon EC2 Auto Scaling”,因为EMR实例组也是具有EC2实例组的组。

[1] https://docs.aws.amazon.com/autoscaling/ec2/userguide/what-is-amazon-ec2-auto-scaling.html

因此,其扩展/扩展行为遵循“ Amazon EC2 Auto Scaling”的行为。根据doc [2],发生这些情况时,Amazon EC2 Auto Scaling(附加EMR实例组)选择为扩展和扩展提供最大容量的策略。在这种情况下,“ ContainerPendingRatio”规则为已触发,因为它添加了5个实例。您可以在文档[2]中找到更多详细信息/原因

[2]多个扩展策略 https://docs.aws.amazon.com/autoscaling/ec2/userguide/as-scale-based-on-demand.html#multiple-scaling-policy-resolution

在我的帐户中创建EMR群集后,我进行了实验,结果与预期相同。

希望这对您有所帮助。

答案 2 :(得分:-2)

我认为亚马逊文档中可能没有这样的东西。