在AWS Auto Scaling，ELB，Cloud Watch上进行测试时遇到的问题

Question

我在JSP中创建了一个Web App。我的一个网络应用网址是返回一个唯一的ID。

这是URL。 www.biomobilestrokelab.com/GateKeeper/newUserId.jsp

它在网络浏览器中运行良好。现在我想在这个Web应用程序上测试scalablity。 我为此目的使用Apache Jmeter。 但是当我每秒达到1000个请求时

• 有时所有请求都会成功返回响应
• 有时我会收到HTTP 504网关超时代码
• 有时我收到HTTP 503服务不可用的后端服务器已达到容量。

我正在使用AWS Autoscalig

1. 最小实例= 2
2. 最大值= 12
3. 健康检查宽限期= 300秒
4. 默认冷却= 60秒

对于ELB，配置了以下选项。

1. 超时= 60秒
2. 间隔= 200秒
3. 不健康的阈值= 2
4. 健康阈值= 10

我将以下Cloud Watch Matrices应用于自动缩放。

1. CPU利用率：当大于10％时添加1个实例，当小于3％时删除1个实例，并且我将平均统计数据应用于1分钟。

2. 请求计数：当Sum大于1000时添加1个实例，当Sum小于等于1000时减少1个实例。

请指导我如何解决此问题，以便每秒可以成功达到1000个或超过1000个请求。

Answer 1

我建议您减少固定数量实例每秒的请求数（让两个人说出来）或增加实例数，直到没有错误并且每秒处理所有千个请求成功。然后基于此，您可以在自动缩放组中设置min并调整CloudWatch警报。