Что такое horizontal scaling?

Horizontal scaling — это когда добавляешь больше серверов вместо того чтобы апгрейдить один. Было 2 сервера, стало 10 — вот тебе горизонтальное масштабирование. Перед серверами стоит балансировщик (nginx, HAProxy), который распределяет запросы. Главное условие — приложение должно быть stateless, чтобы любой сервер мог обработать любой запрос. Состояние хранишь во внешнем хранилище (Redis, PostgreSQL). Это дешевле и надёжнее, чем вертикальное масштабирование, и теоретически безграничное.