理解我的负载测试

Question

我正在尝试测试我公开的一些Web服务。我创建了一些模拟用户活动的Web性能测试。我已经将这些加载到负载测试中，带有步骤加载模式，目的是加载用户以发现将使响应时间超过10秒的并发用户数x。

我试过这样做，但结果......出乎意料。超过1,000 500-InternalServerErrors。奇怪的是，我的平均响应时间基本保持不变 - 极低值（此图中的蓝线），而用户数量增加到最大值200，尽管图表显示（红线）和请求数/秒也增加（绿色）。当然这是不正确的，因为页面响应时间应随之增加。

任何人都可以提供任何有关此处可能发生的事情的见解，以及我如何解决这个问题？

我正在使用的数据集是一个很小的测试数据集，所以我唯一的理论是可能所有请求都被缓存，解释了快速的响应时间，但服务器仍然被淹没，因此错误。

对缺乏细节的抱歉 - 我是性能测试的新手。任何问题都会立即得到解答。非常感谢:)）