devops инженер для инфраструктуры ML/AI

Проект связан с развёртыванием и эксплуатацией инфраструктуры на базе Kubernetes с поддержкой GPU для рабочих нагрузок ML/AI.

• Развёртывать и управлять кластерами Kubernetes на bare metal
• Настраивать и оптимизировать контейнеризацию Docker
• Конфигурировать конвейеры GitLab CI/CD
• Управлять ресурсами NVIDIA GPU и инфраструктурой CUDA
• Развёртывать и поддерживать решения для вывода моделей ML, включая vLLM, Ollama и Triton Inference Server
• Мониторить инфраструктуру с Prometheus и Grafana
• Настраивать сетевые сервисы, TLS и DNS
• Управлять развёртываниями с помощью Helm
• Управлять GitLab Container Registry

• Знание Linux (Ubuntu Server), Docker, Kubernetes, Helm, GitLab CI/CD и GitLab Container Registry
• Знание NVIDIA GPU, CUDA, NVIDIA Container Toolkit и Kubernetes NVIDIA Device Plugin
• Знание Prometheus, Grafana, сетевых технологий, TLS и DNS
• Будет плюсом: опыт эксплуатации GPU-серверов для AI/ML, развёртывания vLLM, Ollama, Triton Inference Server или аналогичных решений, понимание CUDA, VRAM, tensor parallelism и ограничений GPU, опыт работы с Kubernetes на bare metal, настройки NVIDIA DCGM Exporter, работы с Langfuse, подготовки инфраструктуры по требованиям GDPR, организации воспроизводимых развёртываний и переноса приложений между облачной и локальной инфраструктурой

• Удалённая работа по РФ
• Гражданство РФ