ML Engineer

Команда строит мультимодальные базовые модели и отвечает за этап предварительного обучения, на котором закладываются основные способности моделей и определяется их итоговое качество.

• Развивать процесс предварительного обучения мультимодальных моделей;
• Исследовать архитектурные решения, рецепты и режимы обучения;
• Работать с массивами мультимодальных данных из разных доменов;
• Принимать решения о составе обучающих данных и методах снижения шума;
• Исследовать законы масштабирования;
• Превращать работу с данными в масштабируемый конвейер;
• Заниматься крупномасштабным обучением моделей;
• Профилировать узкие места и следить за эффективностью использования GPU;
• Улучшать стабильность запусков и воспроизводимость экспериментов.

• Опыт работы в компьютерном зрении и обработке естественного языка;
• Глубокое понимание устройства современных больших языковых и мультимодальных моделей;
• Понимание принципов распределённого обучения больших моделей;
• Умение формулировать исследовательские гипотезы и проверять их экспериментально;
• Навыки аккуратной постановки экспериментов и корректного сравнения подходов;
• Умение писать понятный код и доводить идеи до воспроизводимого результата;
• Будет плюсом опыт обучения больших моделей или работы с крупными системами глубокого обучения, опыт работы с конвейерами предварительного обучения для языковых или мультимодальных моделей, а также знание Megatron, DeepSpeed, FSDP, PyTorch Distributed или аналогичных инструментов.

• Расширенная медицинская страховка с первого месяца, включая стоматологию и чекапы;
• Страхование родственников по системе 80/20;
• Психотерапия в офисе или онлайн;
• Доступ к внутренней образовательной платформе, менторству и программам обучения;
• Оплата участия в профильных конференциях;
• Наличие спортзалов в крупных офисах и скидки в фитнес-клубы;
• Гибкий график работы;
• Льготные жилищные займы для сотрудников российских офисов;
• Программы поддержки для родителей и детей.