специалист по информационной безопасности

Команда безопасности платформы развивает направление защиты систем на базе искусственного интеллекта, включая ML- и LLM-сервисы, инференс, RAG-пайплайны, ассистентов и агентов с доступом к внутренним инструментам.

• Проводить аудиты безопасности ML/LLM-систем, включая инференс-сервисы, RAG-пайплайны, агентов с доступом к инструментам, MCP-серверы, ML-платформы и их артефакты;
• Тестировать системы на базе ИИ на устойчивость к prompt injection, джейлбрейкам, эксфильтрации системных промптов и данных, злоупотреблению tool calling, выходу агентов за разрешённые границы, отравлению данных и моделей, атакам на цепочку поставки;
• Развивать DAST для AI-эндпоинтов: создавать харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак и регрессионное тестирование моделей и защитных механизмов;
• Встраивать проверки в CI/CD;
• Проверять эффективность защитных механизмов и формировать требования к ним;
• Формировать стандарты безопасной разработки AI-сервисов, модели угроз, чек-листы ревью и требования к правам агентов, работе с секретами и изоляции окружений;
• Разрабатывать автоматизацию и инструментарий на Python или Go;
• Интегрировать инструментарий с ASOC, Jira, CI/CD и SIEM;
• Участвовать в проектах команды по безопасности приложений;
• Взаимодействовать с командами ML-платформы, разработки и инфраструктурной безопасности.

• Практический опыт наступательной безопасности: пентесты, аудиты приложений или bug bounty;
• Практическое понимание инференса, RAG, агентных архитектур и tool calling;
• Опыт работы с API моделей и промпт-инжинирингом;
• Понимание рисков AI-систем и актуальных классов атак на них;
• Уверенное знание уязвимостей веб-приложений и API;
• Базовое инженерное понимание операционных систем, сетей, контейнеров и Kubernetes;
• Опыт проектирования архитектуры новых процессов и сервисов;
• Умение самостоятельно принимать и обосновывать технические решения;
• Самостоятельность и готовность создавать методологии в новой области;
• Будет плюсом публичные исследования, CVE, доклады, участие в AI red teaming или программах bug bounty по LLM, знакомство с garak, PyRIT, promptfoo и аналогичными инструментами, опыт работы с инференс-стеком Triton, vLLM и TGI, MLflow/Kubeflow и реестрами моделей, знакомство с MCP и фреймворками агентных систем LangGraph, LangChain и CrewAI, опыт разработки гардов и фильтров для LLM-трафика.

• Условия в вакансии нет.