Latency
La latencia es el tiempo desde el envío de una petición hasta recibir la respuesta, medido con percentiles (p50/p95/p99) para capturar la latencia de cola.
Propósito
Cuantificar la métrica crítica para la experiencia de usuario y optimizar la latencia de cola.
Mecanismo
p50: la mediana. p95/p99: latencia de cola (afecta a pocos usuarios pero de forma notable). Los promedios se sesgan por la cola larga. La latencia de cola proviene de peticiones lentas, GC, contención de bloqueos y jitter de red. p99 < 100ms es un SLO común.
Casos de uso
- Optimización de rendimiento
- SLO
- Experiencia de usuario