mlops engineer

Команда создает экосистему цифровых сотрудников на базе передовых открытых языковых и визуальных моделей, автоматизируя ключевые операционные процессы и влияя на эффективность бизнеса заказчиков.

• Проектировать и развивать самообслуживание CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем;
• Развертывать и оптимизировать языковые и визуальные модели в процессе разработки с использованием vLLM, Triton Inference Server, SGLang;
• Обеспечивать высокую доступность сервисов, работать с масштабированием горизонтальных подов и управлять состоянием агентов;
• Внедрять комплексное наблюдение: от стандартных метрик до конкретных ML-метрик.

• Опыт вывода решений на основе больших языковых моделей в прод;
• Уверенное владение Python и асинхронным программированием;
• Уверенное владение Kubernetes;
• Знание GitLab CI, Jenkins и прочего;
• Понимание архитектуры RAG-систем, работы эмбеддинг-моделей и ранжирования;
• Умение оптимизировать инференс: квантизацию, continuous batching, PagedAttention;
• Будет плюсом опыт с графовыми базами данных и построением мультиагентных систем.

• Оформление по ТК РФ в IT-аккредитованную компанию;
• ДМС, включая стоматологию;
• Компенсация фитнеса;
• Скидки на обучение английскому;
• Индексация заработной платы;
• Современная техника;
• IT-аккредитация компании.