Question

P99延迟代表什么？我在关于应用程序性能的讨论中一直听到这一点，但无法在线找到可以讨论此问题的资源。

Answer 1

这是99th percentile。这意味着99％的请求应该比给定的延迟更快。换句话说，只允许1％的请求更慢。

Answer 2

我们可以通过类比来解释，如果100名学生参加比赛，那么99名学生将在“延迟”时间内完成比赛。

Answer 3

假设您正在收集服务的性能数据，并且下表是结果的集合（延迟值是虚构的，以说明这一想法）。

Latency    Number of requests
1s         5
2s         5
3s         10
4s         40
5s         20
6s         15
7s         4
8s         1

您的服务的P99延迟为7秒。只有1％的请求需要更长的时间。因此，如果您可以减少服务的P99延迟，则可以提高其性能。

Answer 4

让我们以here

为例

Request latency:
    min: 0.1
    max: 7.2
    median: 0.2
    p95: 0.5
    p99: 1.3

因此，可以说，在99％的Web请求中，发现的延迟为1.3毫秒（毫秒/微秒，取决于配置的系统延迟度量）或更低。就像@tranmq告诉我们，如果我们减少服务的P99延迟，我们可以提高其性能。

p95也是值得注意的，因为可能只有很少的请求使p99比p95更加昂贵，例如）构建缓存的初始请求，类对象预热，线程初始化...

Finally;，我们在测量中可能会产生大约1％的噪声（例如网络拥塞，中断，服务质量下降），因此p99延迟实际上代表了最坏的情况。而且，几乎总是我们的目标是减少p99延迟。