описание
Ищем MLOps инженера, который будет настраивать модели, агентов и базы данных на железе, оптимизировать их работу и готовить измеримые результаты для команды. Работа предстоит и в собственной лаборатории с тестовым сервером для PoC и сборки MVP, и на удаленных стендах вендоров.
задачи
- Разворачивать и обслуживать GPU серверы и инференс окружения для LLM в локальном контуре и на стендах вендоров.
- Настраивать и поддерживать пайплайны деплоя моделей и агентов, включая версионирование.
- Создавать тестовые песочницы для валидации новых моделей и фреймворков.
- Тестировать новые фреймворки и рантаймы как на локальном оборудовании, так и на удаленных стендах вендоров.
- Настраивать мониторинг качества и производительности инференса.
- Оптимизировать паттерны обращения к моделям и throughput под нагрузкой.
- Участвовать в сборке PoC и MVP.
требования
- Опыт в MLOps или DevOps от 2 до 3 лет, в идеале от 3 до 5 лет.
- Уверенное знание Docker.
- Опыт работы с LLM, включая облачные модели.
- Опыт работы с GPU платформами, прежде всего NVIDIA.
- Опыт настройки рантаймов и бэкендов инференса: vLLM, SGLang, TensorFlow.
- Понимание метрик инференса, батчинга и квантизации: FP16, BF16, FP8, INT8.
- Опыт настройки мониторинга: Grafana, Zabbix или аналоги.
- Опыт оптимизации инфраструктуры под ML нагрузки.
- Будет плюсом: Опыт работы с Kubernetes. Не обязателен, но будет весомым плюсом при выборе кандидата; Опыт работы с реальными enterprise архитектурами
условия
- Оплата: условия обсуждаются индивидуально с каждым кандидатом.
- Москва, офис. Сейчас метро Кунцевская, в ближайшие месяцы переезд на метро Динамо.
- Первое время работа из офиса, затем возможен гибридный формат.
- Полная удаленка не предусмотрена.
- Официальное оформление по трудовому договору.
