YADRO
3 нед. назад
Senior LLM Inference Backend Engineer
От 3 до 6 летУдаленная работаМосква27 июля 2026 г.
Требования
Опыт разработки на Python (5+ лет), знание стандартов: typing, асинхронность, паттерны проектирования. Опыт создания высоконагруженных API (FastAPI или аналоги...
Обязанности
Проектирование и поддержка GPU-кластера инференса (Nvidia) для десятков тысяч пользователей: скалирование, балансировка и приоритизация запросов, пользовательские лимиты.
Отправляйте отклики быстрее
AFK Offer помогает отправлять отклики на подходящие вакансии с персонализированными сопроводительными письмами. Попробуйте 24 часа бесплатно.
Начать бесплатно