什么是P99延迟?

时间:2012-10-09 21:49:07

标签: web-services networking web-applications p99

P99延迟代表什么?我在关于应用程序性能的讨论中一直听到这一点,但无法在线找到可以讨论此问题的资源。

4 个答案:

答案 0 :(得分:118)

这是99th percentile。这意味着99%的请求应该比给定的延迟更快。换句话说,只允许1%的请求更慢。

答案 1 :(得分:9)

我们可以通过类比来解释,如果100名学生参加比赛,那么99名学生将在“延迟”时间内完成比赛。

答案 2 :(得分:3)

假设您正在收集服务的性能数据,并且下表是结果的集合(延迟值是虚构的,以说明这一想法)。

Latency    Number of requests
1s         5
2s         5
3s         10
4s         40
5s         20
6s         15
7s         4
8s         1

您的服务的P99延迟为7秒。只有1%的请求需要更长的时间。因此,如果您可以减少服务的P99延迟,则可以提高其性能。

答案 3 :(得分:0)

让我们以here

为例
Request latency:
    min: 0.1
    max: 7.2
    median: 0.2
    p95: 0.5
    p99: 1.3

因此,可以说,在99%的Web请求中,发现的延迟为1.3毫秒(毫秒/微秒,取决于配置的系统延迟度量)或更低。 就像@tranmq告诉我们,如果我们减少服务的P99延迟,我们可以提高其性能。

p95也是值得注意的,因为可能只有很少的请求使p99比p95更加昂贵,例如)构建缓存的初始请求,类对象预热,线程初始化...

Finally;,我们在测量中可能会产生大约1%的噪声(例如网络拥塞,中断,服务质量下降),因此p99延迟实际上代表了最坏的情况。而且,几乎总是我们的目标是减少p99延迟。