P99延迟代表什么?我在关于应用程序性能的讨论中一直听到这一点,但无法在线找到可以讨论此问题的资源。
答案 0 :(得分:118)
这是99th percentile。这意味着99%的请求应该比给定的延迟更快。换句话说,只允许1%的请求更慢。
答案 1 :(得分:9)
我们可以通过类比来解释,如果100名学生参加比赛,那么99名学生将在“延迟”时间内完成比赛。
答案 2 :(得分:3)
假设您正在收集服务的性能数据,并且下表是结果的集合(延迟值是虚构的,以说明这一想法)。
Latency Number of requests
1s 5
2s 5
3s 10
4s 40
5s 20
6s 15
7s 4
8s 1
您的服务的P99延迟为7秒。只有1%的请求需要更长的时间。因此,如果您可以减少服务的P99延迟,则可以提高其性能。
答案 3 :(得分:0)
让我们以here
为例Request latency:
min: 0.1
max: 7.2
median: 0.2
p95: 0.5
p99: 1.3
因此,可以说,在99%的Web请求中,发现的延迟为1.3毫秒(毫秒/微秒,取决于配置的系统延迟度量)或更低。 就像@tranmq告诉我们,如果我们减少服务的P99延迟,我们可以提高其性能。
p95也是值得注意的,因为可能只有很少的请求使p99比p95更加昂贵,例如)构建缓存的初始请求,类对象预热,线程初始化...
Finally;,我们在测量中可能会产生大约1%的噪声(例如网络拥塞,中断,服务质量下降),因此p99延迟实际上代表了最坏的情况。而且,几乎总是我们的目标是减少p99延迟。