machine learning engineer

Команда занимается развитием языковой модели GigaChat, проектированием и запуском экспериментов, построением пайплайнов обучения и повышением качества работы моделей.

• Разрабатывать и улучшать методы обучения с подкреплением в режиме реального времени;
• Реализовывать и дорабатывать подходы пост-тренинга и обучения с подкреплением;
• Проектировать и проводить эксперименты, формулировать гипотезы и анализировать результаты;
• Исследовать причины изменений качества моделей, оценивать устойчивость результатов и возможности масштабирования;
• Изучать актуальные научные публикации, воспроизводить результаты и адаптировать подходы под задачи и инфраструктуру;
• Разрабатывать и поддерживать пайплайны обучения, включая сбор сигналов вознаграждения и обновление весов;
• Обеспечивать воспроизводимость экспериментов через версионирование данных, конфигураций и чекпоинтов;
• Оптимизировать пропускную способность и эффективность использования графических процессоров;
• Проектировать и реализовывать системы сигналов вознаграждения, включая верификаторы и модели оценки;
• Строить и улучшать пайплайны подготовки данных, включая фильтрацию и контроль качества;
• Анализировать ошибки моделей и формировать обучающие выборки для их устранения;
• Взаимодействовать с исследователями и смежными командами, брать ответственность за компоненты системы от идеи до внедрения;
• Участвовать в проверке кода и обмене знаниями внутри команды.

• Отличное владение Python и PyTorch;
• Практический опыт в пост-тренинге больших языковых моделей (RLHF, online RL, DPO или смежные направления);
• Опыт проведения ML-экспериментов от постановки гипотезы до анализа результатов;
• Понимание принципов распределенного обучения (Data Parallel, FSDP, DeepSpeed);
• Умение писать чистый, надежный и готовый к промышленной эксплуатации код;
• Способность самостоятельно разбираться в сложных системах и устранять узкие места;
• Будет плюсом опыт работы с моделями вознаграждения, построения сред исполнения и верификаторов, опыт работы с высоконагруженным инференсом и оптимизацией генерации, понимание современных инструментов для обучения моделей, наличие публикаций или вклад в открытое программное обеспечение.

• Конкурентная компенсация, премии и расширенный социальный пакет;
• Работа над сложными задачами в области развития русскоязычных языковых моделей;
• Возможность совмещать инженерную и исследовательскую деятельность.