ml инженер омнимодальной памяти

Сбер развивает исследовательскую команду на переднем крае LLM-технологий. Команда проходит путь от гипотез и PoC-фреймворков до вывода решений в прод флагманской LLM, работая с прикладными исследованиями и высоким risk-reward профилем. Одно из ключевых направлений — омнимодальная память для текста, аудио и видео.

• Собрать и защитить план направления: определить, какие гипотезы брать, какие не брать и чем измерять успех;
• Разобрать существующие LLM-пайплайны на компоненты и найти места для улучшения в разы;
• Вести несколько гипотез параллельно — от абляций до полного цикла pretrain/post-train со scaling laws;
• Обучать, валидировать и имплементировать новые архитектуры и objective-функции, включая работу с kernel-функциями, обучающим фреймворком и serving;
• Упаковывать результаты в PoC, инференс-движок и пилоты;
• Растить команду направления: нанимать, ставить задачи и проводить ревью кода и экспериментов;
• Публиковаться на A/A*-конференциях.

• Глубоко понимать современные трансформеры и все этапы LLM-пайплайна;
• Писать качественный воспроизводимый ML-код;
• Иметь опыт обучения в режиме multi-GPU, желательно multi-node;
• Иметь практический опыт на одном из этапов создания LLM в индустрии или серьёзном pet-project;
• Хорошо ориентироваться в научной литературе и критически читать paper'ы;
• Уметь быстро валидировать смелые гипотезы;
• Будет плюсом опыт в классическом ML/NLP до эпохи больших моделей, публикации уровня A/A* и опыт прохождения review-цикла, large-scale training с multi-node, FSDP/DeepSpeed/Megatron, призовые места на Kaggle и подобных соревнованиях.

• Выделенная команда направления и инженерная поддержка для масштабирования;
• Прямое участие в стратегии направления;
• Комфортный современный офис у метро Кутузовская;
• Ежегодный пересмотр зарплаты и годовой бонус;
• Корпоративный спортзал и зоны отдыха;
• Более 400 образовательных программ СберУниверситета;
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа;
• Льготный дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
• Подписка Прайм с возможностью совместного использования с тремя близкими;
• Вознаграждение за рекомендацию друзей в команду Сбера.