Latency
La latence est le temps entre l'envoi d'une requête et la réception de la réponse, mesurée en centiles (p50/p95/p99) pour saisir la latence de queue.
Objectif
Quantifier la mesure critique pour l'expérience utilisateur et optimiser la latence de queue.
Mécanisme
p50 : la médiane. p95/p99 : latence de queue (touche peu d'utilisateurs mais nettement). Les moyères sont biaisées par la longue traîne. La latence de queue provient de requêtes lentes, GC, contention de verrous, gigue réseau. p99 < 100 ms est un SLO courant.
Cas d’usage
- Optimisation des performances
- SLO
- Expérience utilisateur