devops инженер платформы искусственного интеллекта

Команда разрабатывает и внедряет платформу искусственного интеллекта для внутренних команд и внешних клиентов, включая LLM/ML-сервисы, инфраструктуру и инструменты мониторинга моделей.

• Проектировать, развёртывать и развивать инфраструктуру платформы искусственного интеллекта в on-prem и облачной среде;
• Строить и поддерживать CI/CD/CT-пайплайны для ML-моделей и сервисов;
• Интегрировать и эксплуатировать LLM/ML-сервисы для внутренних команд и рыночных внедрений;
• Упаковывать модели в сервисы, настраивать автомасштабирование, SLA и наблюдаемость;
• Настраивать мониторинг и оповещения по инфраструктуре и моделям;
• Реагировать на инциденты и участвовать в разборе их причин;
• Автоматизировать ML-пайплайны: подготовку данных, обучение, переобучение, регистрацию моделей, управление версиями и окружениями;
• Поддерживать внедрения у клиентов;
• Тиражировать платформенные компоненты и адаптировать инфраструктуру под контур заказчика;
• Участвовать в оптимизации производительности и затрат на GPU/CPU;
• Проектировать и развёртывать инфраструктуру платформы ИИ под LLM/ML-нагрузки;
• Строить воспроизводимые ML-пайплайны для обучения, валидации, упаковки и развёртывания моделей в пакетном и режиме реального времени;
• Настраивать мониторинг качества моделей, дрейфа данных, задержки и пропускной способности;
• Настраивать автоматический откат и триггеры переобучения;
• Переводить экспериментальные ноутбуки в надёжные сервисы для внутренних и внешних клиентов.

• Высшее образование;
• Опыт работы 5+ лет;
• Глубокое понимание жизненного цикла ML-модели от экспериментов до продакшн-инференса и мониторинга;
• Уверенное владение Linux, сетевыми основами и безопасностью;
• Опыт работы с контейнерами и оркестраторами;
• Опыт построения CI/CD-пайплайнов для сервисов и ML-артефактов;
• Опыт работы с LLM/GenAI-платформами: vLLM, TGI, Hugging Face, Triton/ONNX Runtime;
• Опыт оптимизации инференса;
• Опыт построения feature store, реестра моделей и ML-пайплайнов;
• Опыт работы в гибридной инфраструктуре: on-prem-кластеры и публичные облака;
• Понимание оптимизации затрат и FinOps для GPU/CPU;
• Знание Python и Bash;
• Опыт работы с Docker, Docker Compose и Kubernetes;
• Опыт работы с Helm и операторами Kubernetes;
• Опыт настройки CI/CD в GitLab CI, GitHub Actions, Jenkins или Argo CD;
• Опыт работы с Terraform, Ansible, Nginx и cert-manager;
• Опыт работы с Apache Kafka, Airflow/Argo Workflows, S3-совместимыми хранилищами, MLflow или Weights & Biases;
• Опыт работы с Prometheus, Grafana, Loki/ELK, Sentry и Alertmanager;
• Опыт совместной работы с DS, разработчиками и специалистами по внедрению;
• Будет плюсом Kubeflow, GitLab/GitHub, Jira, Confluence/Сфера, kubectl, Helm, K9s, Lens, MLflow/Weights & Biases, Kubeflow Pipelines/Airflow, реестр моделей, Prometheus, Grafana, Loki/ELK, Alertmanager, Sentry.

• Условий в вакансии нет