mlops engineer для контура Trust & Safety

Объединённая компания Wildberries и Russ — международная технологическая компания, образованная в результате слияния Wildberries и оператора наружной рекламы Russ.

• Строить и автоматизировать пайплайны обучения в ClearML — от экспериментов DS до воспроизводимого артефакта в model registry;
• Автоматизировать деплой моделей в Triton, включая конвертацию в ONNX и TensorRT, настройку, выкатку без участия инженера, канареечные релизы и откаты;
• Развивать Python-сервисы вокруг Triton, единый inference gateway, gRPC, батчинг и очереди;
• Ускорять инференс с помощью профилирования, dynamic batching, ensemble, BLS и оптимизаций TensorRT;
• Поддерживать SLA контура инференса: метрики, алертинг, разбор инцидентов и дежурства в ротации;
• Поддерживать JupyterHub, агенты ClearML и шаблоны проектов для DS-команд;
• Проектировать вместе с инфраструктурным инженером размещение моделей на GPU-кластере;
• Взаимодействовать с DS-командами, выяснять их потребности и переводить их в технические решения;
• Закладывать стандарты и шаблоны для распространения контура на весь отдел Trust & Safety.

• Уверенно владеть Python;
• Иметь опыт разработки асинхронных сервисов на FastAPI и asyncio, работы с gRPC и очередями Kafka;
• Иметь опыт работы с Nvidia Triton Inference Server или другими решениями для обслуживания моделей: TorchServe, vLLM, KServe; быть готовым глубоко освоить Triton;
• Иметь опыт работы с MLOps-платформами ClearML, Kubeflow, MLflow или аналогами: пайплайнами, отслеживанием экспериментов и реестром моделей;
• Понимать инженерную сторону ML-стека: PyTorch, ONNX, конвертацию и упаковку моделей, GPU-инференс;
• Владеть Kubernetes на уровне разработки сервисов, включая деплой, Helm-чарты, ресурсы, HPA и отладку подов;
• Иметь опыт работы с GitLab CI, инфраструктурой как код, мониторингом и логами;
• Уметь взаимодействовать с DS-командами и доводить решения до прода, а не до прототипа.

• Языковые клубы, корпоративный университет и программы развития управленческих навыков;
• Корпоративный пакет ДМС со стоматологией, корпоративный спорт и консультации психолога;
• Дополнительные возможности аккредитованной IT-компании;
• Сообщества по интересам: клуб спикеров, футбола, йоги и шахмат;
• Гибкий подход к сочетанию работы и заботы о близких, проекты для детей сотрудников;
• Скидки и партнёрские программы на обучение, страхование и покупки;
• Бесплатное питание в офисе, современные офисы рядом с метро, корпоративная техника и портал для сотрудников.