ml разработчик по безопасности ИИ

Команда строит систему управления операционными рисками экосистемы Сбера на основе агентного ИИ. Проекты связаны с безопасностью и устойчивостью ИИ-систем для крупнейшего банка страны.

• Разрабатывать системы защиты для AI-агентов на базе GigaPlatform и других open-source LLM;
• Защищать AI-агентов от промпт-инъекций;
• Фильтровать токсичность;
• Контролировать галлюцинации с помощью Intrinsic, Extrinsic и Fine-tuned Detectors;
• Валидировать выходы моделей;
• Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO;
• Исследовать новые технологии и SOTA-подходы по AI Safety;
• Делиться опытом и развивать культуру R&D в команде;
• Участвовать в выводе гардрейлов в продакшн;
• Работать на оборудовании с 8–16 A100 80 GB.

• Опыт работы в DS или MLE от 2 лет, желательно с фокусом на безопасность ИИ или защиту LLM;
• Высшее техническое образование и глубокое понимание алгоритмов и структур данных;
• Опыт обучения нейросетей от классических RNN до трансформеров;
• Понимание уязвимостей LLM: промпт-инъекций, джейлбрейков, data poisoning и галлюцинаций, а также способов защиты от них;
• Опыт построения гардрейлов rule-based, ML-based или гибридного типа и/или участия в red teaming LLM;
• Умение писать качественный код;
• Знание Clean Architecture, SOLID и Git Flow;
• Будет плюсом опыт в соревнованиях уровня Kaggle Expert+, участие в open-source проектах по AI Safety, публикации или доклады по теме.

• Комфортный современный офис рядом с м. Кутузовская;
• Ежегодный пересмотр зарплаты и годовая премия;
• Корпоративный спортзал и зоны отдыха;
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
• Расширенный ДМС и льготное страхование для семьи;
• Дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
• Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнеров;
• Вознаграждение за рекомендацию друзей в команду Сбера.