devops engineer для AI-инфраструктуры

Описания нет

• Развёртывать временную облачную инфраструктуру: готовить Kubernetes-кластер, настраивать сетевое взаимодействие, Ingress, TLS и DNS, развёртывать окружения Dev/Test и организовывать безопасное хранение конфигураций и секретов
• Развёртывать или настраивать временный GitLab и GitLab Runner, автоматизировать сборку Docker-образов и развёртывание в Kubernetes, настраивать Container Registry и автоматические проверки безопасности, обеспечивать перенос CI/CD на инфраструктуру заказчика
• Устанавливать и настраивать Linux и компоненты NVIDIA на целевом GPU-сервере, настраивать Kubernetes для работы с GPU, проверять доступность двух NVIDIA RTX A6000 из контейнеров и распределять GPU-ресурсы между окружениями
• Развёртывать vLLM в Kubernetes, настраивать доступ к локальным весам модели и совместно с ML-инженером настраивать использование GPU, ограничения памяти и параллелизм
• Настраивать внутренние сервисы и API, обеспечивать переключение между внешним LLM API и локальной моделью
• Развёртывать Prometheus и Grafana, собирать метрики GPU, мониторить Kubernetes, CPU, RAM, GPU, VRAM и состояние сервисов
• Настраивать журналирование и ротацию логов, RBAC, Network Policies, TLS и резервное копирование конфигураций и необходимых данных
• Переносить приложение из временного облака на сервер заказчика и настраивать целевые окружения
• Проверять работу CI/CD после миграции, готовить инструкции по развёртыванию, обновлению и восстановлению системы
• Участвовать в нагрузочном тестировании и устранять инфраструктурные проблемы

• Уверенно администрировать Linux (Ubuntu Server)
• Владеть Docker на продвинутом уровне
• Уверенно развёртывать и эксплуатировать Kubernetes
• Иметь практический опыт работы с Helm и GitLab Container Registry
• Самостоятельно настраивать GitLab CI/CD pipelines и runners
• Иметь опыт настройки NVIDIA GPU и CUDA в Linux и контейнерах, а также практический опыт работы с NVIDIA Container Toolkit
• Понимать принципы работы и иметь опыт настройки Kubernetes NVIDIA Device Plugin
• Развёртывать и настраивать мониторинг в Prometheus и Grafana
• Уверенно знать Networking, TLS и DNS
• Писать скрипты автоматизации на Bash
• Иметь практический опыт работы с Terraform и/или Ansible
• Будет плюсом: опыт эксплуатации GPU-серверов для AI/ML, развёртывания vLLM, Ollama, Triton Inference Server или аналогичных решений, понимание CUDA, VRAM, tensor parallelism и ограничений GPU, опыт работы с Kubernetes на bare metal и NVIDIA DCGM Exporter, опыт работы с Langfuse, подготовки инфраструктуры по требованиям GDPR, организации воспроизводимых развёртываний и переноса приложений между облачной и локальной инфраструктурой

• Проектная работа на part-time: 260 часов всего, с 09.11.2026 до 01.02.2027
• Условий в вакансии нет