Security engineer

Команда обеспечивает кибербезопасность GenAI-моделей, LLM-приложений, AI-агентов и мультиагентных систем, используемых миллионами пользователей. Основной фокус: кибербезопасность GenAI-моделей разных модальностей с помощью автоматизированных бенчмарков и обеспечение безопасности AI-агентов, тестирование их логики принятия решений, а также доступных инструментов.

• Проводить тестирования моделей разных модальностей с помощью автоматизированных бенчмарков;
• Искать и адаптировать релевантные наборы данных (датасеты);
• Адаптировать и настраивать новые или существующие бенчмарки для тестирования устойчивости моделей к различным видам атак;
• Проводить практический пентест AI-агентов и мультиагентных систем с фокусом на специфичные уязвимости (промпт-инъекции, манипуляция контекстом, нарушение логики оркестрации, компрометация инструментов RAG/API), выявлять угрозы и уязвимости на уровне поведения, логики взаимодействия агентов, используемых инструментов;
• Разрабатывать рекомендации и требования безопасности для повышения безопасности агентных систем;
• Подготавливать заключения и отчетную документацию по результатам оценки защищенности;
• Взаимодействовать с командами разработки для внедрения мер безопасности;
• Отслеживать современные тренды и методы атак в области безопасности AI-агентов;
• Участвовать и выступать на ключевых внутренних и внешних мероприятиях, посвященных кибербезопасности ИИ.

• Высшее образование в области информационной безопасности, компьютерных наук или эквивалентный практический опыт;
• 2+ Года релевантного опыта работы (включая пентест, академическую среду или CTF);
• Английский на уровне чтения технической литературы;
• Понимание архитектур и специфических векторов атак для GenAI-моделей разных модальностей (текст, код, изображение, аудио);
• Опыт работы с фреймворками и библиотеками для тестирования LLM/GenAI;
• Понимание основ пентеста и методик создания моделей угроз применительно к агентным системам;
• Понимание принципов работы, архитектур и протоколов взаимодействия AI-агентов и мультиагентных систем;
• Глубокое понимание тактик атак из MITRE ATLAS и уязвимостей из OWASP Top 10 for LLM применительно к агентам;
• Опыт анализа сложных распределенных систем на наличие уязвимостей и «узких» мест;
• Владение Python для написания скриптов автоматизации тестирования и анализа;
• Умение формализовать неочевидные проблемы в поведении агента как конкретные уязвимости и риски для бизнеса;
• Навыки формирования отчетной документации и интерпретации результатов тестирования как бизнес-рисков;
• Будет плюсом опыт в разработке и адаптации бенчмарков, а также умение анализировать и сравнивать результаты тестирования различных моделей, участие в CTF или специализированных соревнованиях по безопасности AI, опыт практического тестирования поведения AI-приложений или агентов (подойдет исследовательский/хобби-проект или CTF), практический опыт работы с фреймворками для создания агентов, опыт представления результатов своей работы широкой аудитории и понимание вызовов, связанных с безопасностью (security/safety) автономных агентов.

• Комфортный современный офис;
• Ежегодный пересмотр зарплаты, годовая премия;
• Корпоративный спортзал и зоны отдыха;
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
• Программа адаптации и помощь руководителя на старте;
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа;
• Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров;
• Вознаграждение за рекомендацию друзей в команду Сбера.