platform engineer генеративного ИИ

Описания нет

• Проектировать и развивать AI Gateway для единого доступа к внешним и внутренним LLM, маршрутизации запросов, настройки лимитов, фоллбэков, контроля стоимости, аутентификации и ролевой модели доступа;
• Развивать платформу LLM-инференса: развёртывание и эксплуатацию open-source LLM, OpenAI-совместимые API, потоковую генерацию, управление версиями моделей, производительность, отказоустойчивость и мониторинг;
• Развивать RAG/Retrieval-платформу: векторные и лексические индексы, гибридный поиск, версионирование индексов, сервис эмбеддингов, кэширование, фильтрацию, партицирование данных и интеграции с источниками знаний;
• Развивать Agent Runtime: запуск и сопровождение агентных графов, управление состоянием, очереди асинхронных шагов, отказоустойчивость, ограничения на выполнение и контроль зацикливаний;
• Развивать MCP Gateway/Registry: подключение инструментов и контекстов, управление доступом, мониторинг вызовов инструментов, аудит действий и стандартизацию интеграций;
• Автоматизировать жизненный цикл GenAI-артефактов: сборку образов агентов, CI/CD-пайплайны, интеграционные тесты с эмуляторами LLM, прогон evaluation-наборов, канареечные релизы и откаты;
• Развивать платформу оценивания качества GenAI-решений: автоматические проверки, LLM-as-judge, тестовые наборы, метрики качества генерации, поиска, безопасности и стабильности поведения;
• Развивать наблюдаемость GenAI-систем: трассировку запросов, вызовов LLM и инструментов, шагов агентов, метрики задержек, ошибок, качества, стоимости и потребления токенов;
• Внедрять защитные механизмы для GenAI-сервисов: проверку входов и выходов, защиту от prompt injection, контроль чувствительных данных, ограничения инструментов и политики безопасного использования;
• Оптимизировать использование вычислительных ресурсов для LLM/RAG/агентных сценариев с учётом надёжности, производительности, задержек и стоимости;
• Исследовать новые инструменты и подходы в GenAIOps, оценивать их применимость и внедрять решения для повышения надёжности, скорости разработки или эффективности платформы.

• Опыт промышленной разработки, внедрения или эксплуатации GenAI-, ML- или Data-платформ;
• Практический опыт работы с LLM-инференсом: vLLM, Text Generation Inference, Triton Inference Server, llama.cpp или аналогичными решениями;
• Понимание особенностей эксплуатации LLM: задержек, throughput, batch-запросов, потоковой генерации, контекстного окна, потребления памяти, GPU-ресурсов и стоимости инференса;
• Опыт проектирования или эксплуатации API для доступа к моделям, включая OpenAI-совместимые интерфейсы, авторизацию, лимиты, маршрутизацию и отказоустойчивость;
• Понимание принципов RAG: разбиения документов на фрагменты, эмбеддингов, векторного и гибридного поиска, reranking, фильтрации, версионирования индексов и оценки качества retrieval;
• Практический опыт работы с векторными хранилищами, поисковыми движками или библиотеками поиска: FAISS, Qdrant, Milvus, OpenSearch, Elasticsearch или аналогами;
• Понимание архитектуры AI-агентов: инструментов, состояния, памяти, графов выполнения, асинхронной обработки, ограничений автономности и эскалации к человеку;
• Опыт запуска и сопровождения сервисов в Kubernetes: workloads, Helm, ingress, autoscaling, observability, диагностика и устранение проблем;
• Опыт настройки CI/CD для сервисов, ML- или GenAI-артефактов;
• Уверенное владение Python для разработки платформенных сервисов, автоматизации, интеграций и внутренних инструментов;
• Опыт работы с Docker и OCI-образами: сборка, оптимизация, публикация и эксплуатация;
• Понимание принципов мониторинга и алертинга для GenAI-систем: трассировки, логов, метрик, качества генерации, ошибок инструментов, токенов, задержек и стоимости;
• Понимание подходов к оцениванию GenAI-решений: golden datasets, regression tests, LLM-as-judge, human evaluation, метрики качества ответов и поиска;
• Опыт безопасной работы с секретами, токенами, сертификатами, чувствительными данными и сервисными учётными записями;
• Понимание основных рисков генеративного ИИ: галлюцинаций, prompt injection, утечек данных, небезопасных инструментов, избыточной автономности агентов и неконтролируемой стоимости;
• Уверенное владение Linux: настройка, мониторинг, диагностика сетевых, ресурсных и производительных проблем;
• Будет плюсом опыт настройки CI/CD на базе GitLab.

• ДМС со стоматологией, телемедициной и программой поддержки ментального здоровья;
• Страхование жизни;
• Ежемесячные промокоды на Lamoda: два по 25%, два по 15% и в день рождения — 40%;
• Программа привилегий и скидок от BestBenefits;
• До 15 дней больничного в год оплачивают в размере 100% от действующего оклада;
• Бесплатные юридические консультации;
• Дополнительные выходные в случае важных событий;
• Яркие мероприятия и много неформального общения;
• Опытный наставник для каждого новичка;
• Обучение и участие во внешних конференциях;
• Помощь в развитии личного бренда, выступлениях на конференциях и написании статей;
• Performance Review дважды в год;
• Митапы и demo-дни для обмена знаниями;
• Погружение в fashion и знакомство с модными трендами.