БиАйЭй-Технолоджиз
5 дн. назад
AI Infrastructure Engineer
Более 6 летУдаленная работаМосква10 августа 2026 г.
Требования
Уверенный опыт оптимизации ML-инференса в production (AWQ/GPTQ/INT8, continuous batching, PagedAttention, спекулятивное декодирование). Глубокое знание фреймворков для...
Обязанности
Оптимизировать инференс локальных LLM и внутренних моделей (квантизация, батчинг, KV-cache, маршрутизация запросов) с помощью vLLM, Triton и аналогов.
Отправляйте отклики быстрее
AFK Offer помогает отправлять отклики на подходящие вакансии с персонализированными сопроводительными письмами. Попробуйте 24 часа бесплатно.
Начать бесплатно