Как реализовать batch processing?

Middle
201 просмотров
AFK Offer AI

Собираешь записи в батч (слайс) фиксированного размера, обрабатываешь батч целиком, потом следующий. Ключевые моменты: ограничь размер батча по памяти, обрабатывай ошибки поэлементно (не теряй весь батч из-за одной ошибки), логируй прогресс. Для БД — batch insert через values списком или COPY. Для API — параллельные запросы с rate limiter. Используй errgroup для параллельной обработки батчей с ограничением конкурентности.

Следующий вопрос

Как хранить конфигурацию в Git?