Как измерить tail latency?

Tail latency — это P99/P999, самые медленные запросы. Используй histogram в Prometheus (histogram_quantile), HDR histogram библиотеку, или vegeta/wrk для нагрузочного тестирования с выводом перцентилей. В Go — runtime/trace покажет что именно тормозило конкретный запрос (GC, scheduling, IO).