Мы в Sber AI ищем Middle/Senior ML Engineer. Коротко о нас: мы – молодая команда, которая тесно работает с людьми, принимающими решения большого масштаба. Делаем проекты, влияющие на то, как устроены процессы в стране и разрабатываем стратегии развития ИИ. Параллельно занимаемся AI Journey – одной из самых больших AI-конференций в мире.
ML engineer for LLM systems
подготовься к отклику
ai-инструментыЧтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузи резюме
описание
задачи
- развёртывание и оптимизация локального инференса LLM: подбор моделей, квантизация, настройка производительности
- оценка требований к GPU под нагрузку
- построение и улучшение поиска по документам (RAG): эмбеддинги, гибридный поиск, реранкинг
- дообучение моделей под задачи заказчика (LoRA, SFT)
- настройка промптов, структурированного вывода и вызова инструментов для агентных сценариев
- разработка агентного харнесса: цикл агента, управление контекстом и памятью, лимиты шагов, обработка ошибок инструментов, восстановление после сбоев
- разработка MCP-серверов для доступа агентов к системам и данным заказчика: реестры, документооборот, базы знаний, внутренние API
- настройка tool calling и структурированного вывода у локальных моделей.
требования
- опыт от 3 лет в ML/NLP, из них не менее года с LLM
- PyTorch, Hugging Face (transformers, PEFT)
- опыт локального инференса: vLLM, SGLang
- квантизация на практике: AWQ, GPTQ, GGUF, понимание компромисса между качеством и скоростью
- понимание устройства инференса: KV-cache, батчинг, latency и throughput, расчёт памяти
- опыт написания собственного MCP-сервера
- опыт построения RAG-систем
- уверенный Python, Docker на рабочем уровне
- Будет плюсом: опыт fine-tuning с LoRA; работа с open-weight моделями (Qwen и аналоги) на русском языке; опыт агентных систем и tool calling
условия
- комфортный современный офис рядом с м. Кутузовская
- гибридный формат работы
- ежегодный пересмотр зарплаты. Годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- программа адаптации и помощь руководителя на старте
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- подписка Прайм с возможностью совместного использования на трёх близких
- вознаграждение за рекомендацию друзей в команду Сбера.
навыки
Крупнейший российский банк и экосистема. Предоставляет банковские услуги: кредиты, вклады, карты, ипотека. Развивает сервисы: доставка, здоровье, развлечения, облачные технологии и ИИ. Удобно для финансов и повседневных задач.
Подробнее о компании →Если просят выйти из iCloud, прислать код из SMS, запустить или установить что-то, перевести деньги — не соглашайся: это мошенничество.