Что такое latency percentiles?

Percentiles показывают распределение задержек. P50 (медиана) — половина запросов быстрее. P99 — 99% быстрее, 1% медленнее. Среднее значение скрывает выбросы — сервис со средним 10ms может иметь P99 = 500ms. Для SLA обычно смотрят на P95 и P99, а не на среднее.