Latency
延迟是请求从发出到响应返回的时间,用百分位(p50/p95/p99)度量尾部延迟。
用途
量化用户体验关键指标,优化尾部延迟。
机制
p50:中位数。p95/p99:尾部延迟(影响少数用户但显著)。平均数被长尾拉高误导。尾部延迟由慢请求、GC、锁竞争、网络抖动导致。p99 < 100ms 是常见 SLO。
用例
- 性能优化
- SLO 延迟目标
- 用户体验
延迟是请求从发出到响应返回的时间,用百分位(p50/p95/p99)度量尾部延迟。
量化用户体验关键指标,优化尾部延迟。
p50:中位数。p95/p99:尾部延迟(影响少数用户但显著)。平均数被长尾拉高误导。尾部延迟由慢请求、GC、锁竞争、网络抖动导致。p99 < 100ms 是常见 SLO。