mlops engineer

Компания является ведущим технологическим партнёром государственных организаций в области автоматизации сложных бизнес-процессов, разработчиком и системным интегратором крупнейших государственных информационных систем и коммерческих решений для налогового мониторинга.

• Разворачивать и поддерживать сервисы инференса моделей.
• Настраивать и оптимизировать инференс LLM.
• Работать с GPU-инфраструктурой.
• Разворачивать и сопровождать сервисы ИИ в Kubernetes.
• Строить API-слой для моделей.
• Интегрировать модели в корпоративные системы через REST/gRPC.
• Участвовать в построении RAG-систем.
• Настраивать мониторинг.
• Диагностировать и устранять проблемы в промышленной эксплуатации.
• Оптимизировать использование ресурсов.
• Работать с CI/CD пайплайнами для деплоя моделей и сервисов.
• Взаимодействовать с командой информационной безопасности.
• Обеспечивать соблюдение требований и практик информационной безопасности при разработке и эксплуатации систем ИИ.
• Разрабатывать и поддерживать документацию.
• Взаимодействовать с командами Data Science, Backend и Platform Engineering.

• Опыт работы от 4 лет в MLOps, DevOps или инфраструктурной разработке.
• Практический опыт работы с Kubernetes.
• Опыт работы с GPU (NVIDIA stack, nvidia-smi, CUDA).
• Опыт запуска и эксплуатации ML/LLM моделей в промышленной эксплуатации.
• Уверенное владение Python.
• Понимание принципов работы инференса LLM.
• Опыт работы с Linux на уровне диагностики и отладки.
• Понимание сетевого взаимодействия.
• Опыт работы с CI/CD.
• Понимание и соблюдение базовых принципов информационной безопасности.
• Умение разбираться в логах и находить первопричины проблем.
• Будет плюсом опыт с vLLM, GPUStack, Triton, TensorRT-LLM, LiteLLM, построения RAG-систем, работы с векторными БД (Milvus, Qdrant, pgvector), оптимизации инференса, работы с высоконагруженными системами, работы в изолированных средах, настройки Prometheus и Grafana для ML-сервисов, а также понимание требований регуляторов.

• Конкурентная заработная плата и премии за результаты.
• Официальное трудоустройство согласно ТК РФ.
• Оплачиваемые отпуска с дополнительной выплатой 50% от оклада после 11 месяцев работы.
• Компенсация больничного листа до 7 дней с полной оплатой.
• ДМС после испытательного срока со стоматологией.
• Возмещение до 50% затрат на спорт.
• Профессиональное обучение и сертификация за счет компании.
• Доступ к корпоративной библиотеке и партнерские программы по изучению языков.
• 5 дополнительных оплачиваемых выходных дней в году после 11 месяцев работы.