machine learning engineer

Команда занимается предварительным обучением больших языковых моделей в GigaChat: проектирует архитектуру, подбирает рецепт обучения и поддерживает инженерный контур. Проект использует кластеры H100 и B200 для обучения моделей, включая архитектуру смеси экспертов.

• Развивать направление внутри обучения моделей: от постановки задач и планирования экспериментов до внедрения результатов в основной процесс;
• Проектировать и проводить эксперименты: формулировать гипотезы, запускать абляции, сравнивать подходы и превращать выводы в решения;
• Диагностировать нестабильность на больших прогонах, искать причины деградаций и предлагать изменения в оптимизаторах, расписании, нормализациях и точности вычислений;
• Работать с архитектурой смеси экспертов: настраивать маршрутизатор, балансировку нагрузки и устранять артефакты;
• Поддерживать большие прогоны и продолжение обучения с чекпоинтов, контролировать дрейф и проверять изменения в конфигурациях;
• Улучшать инженерное качество контура обучения: проводить ревью, внедрять стратегии тестирования, обеспечивать воспроизводимость и устранять узкие места.

• Глубокое понимание устройства обучения нейросетей, умение анализировать причины расхождения прогонов по кривым функции потерь и нормам градиентов;
• Способность самостоятельно вести направление от чтения статей до внедрения решений;
• Практический опыт работы с PyTorch и обучением моделей;
• Умение доводить исследовательские идеи до надежных инженерных решений с использованием тестов и автоматизации;
• Развитая инженерная культура: аккуратные PR, профилирование и ведение отчетности по экспериментам;
• Будет плюсом опыт работы со смешанной точностью, распределенным обучением, системами оценки моделей или инфраструктурой для экспериментов.

• Ежегодный пересмотр зарплаты и годовая премия;
• Корпоративный спортзал и зоны отдыха;
• Доступ к более чем 400 образовательным программам СберУниверситета;
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа;
• Ипотека по ставке до 7%;
• Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнеров;
• Вознаграждение за рекомендацию друзей в команду.