devops инженер для ML-платформы

СОГАЗ развивает цифровые продукты и сервисы. Команда центра внедрения ИИ строит продуктовую ML-платформу для генеративных AI-ассистентов и классических моделей машинного обучения.

• Проектировать архитектуру AI-систем;
• Внедрять GPU-планировщик для шаринга нагрузки на одном оборудовании;
• Проектировать и поддерживать ML-пайплайны;
• Настраивать CI/CD для моделей, включая версионирование данных, моделей и экспериментов;
• Мониторить production-модели;
• Выполнять деплой и оптимизацию LLM и inference-серверов;
• Контейнеризировать и оркестрировать сервисы;
• Настраивать CI/CD с использованием GitLab CI;
• Настраивать мониторинг и observability с использованием Prometheus и Grafana;
• Обеспечивать выполнение требований информационной безопасности в отношении инфраструктуры.

• Понимание процессов обучения, инференса и работы с данными;
• Опыт от 2 лет в MLOps или DevOps с ML-спецификой;
• Production-опыт работы с Docker и Kubernetes;
• Знание CI/CD и методологии GitOps;
• Глубокие знания Linux;
• Опыт построения или управления GPU-кластерами на базе NVIDIA и CUDA;
• Понимание multi-tenant GPU-шаринга: MIG, MPS, time-slicing;
• Опыт работы с LLM и inference-серверами: vLLM, TGI, Triton;
• Опыт работы с GPU-планировщиками;
• Опыт работы с MLflow, Kubeflow, Airflow или аналогами;
• Высшее техническое образование.

• Оформление полностью в соответствии с ТК РФ;
• Оплачиваемый отпуск 29 календарных дней плюс 1 день отпуска;
• ДМС в лучших клиниках города;
• Страхование жизни и страхование от несчастных случаев и болезней;
• ДМС родственников со скидкой 75%;
• Премиальные условия на продуктовую линейку группы компаний «СОГАЗ» для работников и их близких родственников;
• Социальный пакет и специальные предложения по страхованию, кредитованию и другие программы от партнёров;
• Курсы, тренинги и корпоративная библиотека;
• Подарки детям сотрудников на Новый год и скидки в детские лагеря.