архитектор решений ML/LLM

Описания нет

• Задач в вакансии нет

• Опыт проектирования высоконагруженных распределённых систем: горизонтального масштабирования, отказоустойчивости, балансировки нагрузки, кэширования, очередей, ограничения частоты запросов и плавной деградации
• Опыт проектирования архитектуры LLM-сервисов для промышленной эксплуатации, включая обработку запросов, хранение векторов, оркестрацию конвейеров и управление нагрузками на GPU
• Опыт интеграции сервисов машинного обучения с API Gateway, IAM/SSO, корпоративными шинами, системами мониторинга и журналирования
• Понимание микросервисного и событийно-ориентированного подходов, SOA, асинхронного взаимодействия, брокеров сообщений и потоковой обработки данных
• Уверенное знание Docker, Kubernetes, Helm, ingress/service mesh, принципов развёртывания и эксплуатации контейнеризированных решений
• Опыт проектирования решений для локальной инфраструктуры и частных или публичных облаков; понимание гибридной архитектуры, развёртывания в нескольких зонах, аварийного восстановления и резервного копирования
• Опыт проектирования интеграций REST/WebSocket, контрактов взаимодействия, схем авторизации и маршрутизации
• Знание принципов информационной безопасности: TLS/mTLS, JWT, OAuth2, OIDC, SAML/ADFS, RBAC/ABAC, управления секретами и требований к защите персональных и чувствительных данных
• Понимание архитектуры хранения и обработки данных в PostgreSQL, Redis и Object Storage
• Опыт проектирования мониторинга и сопровождения сервисов: метрик, журналов, трассировок, оповещений, планирования мощностей, оценки производительности и управления инцидентами и проблемами
• Понимание практик CI/CD для сервисов машинного обучения, реестров моделей, отслеживания экспериментов и воспроизводимости
• Понимание Python, SQL, Bash и Git; умение читать код и проектировать архитектуру с учётом ограничений фреймворков и среды исполнения
• Опыт подготовки архитектурной документации: C4/UML, схем интеграции, NFR, ADR, диаграмм потоков данных и безопасности
• Практический опыт работы системным, solution- или enterprise-архитектором от 3 лет; общий опыт в ИТ от 5 лет
• Опыт работы с продуктами LLM или платформами данных
• Опыт проектирования GPU-инфраструктуры и контуров обработки запросов для LLM-, embedding- и reranking-сервисов
• Понимание особенностей vLLM, Triton Inference Server, ONNX Runtime, MLflow и ClearML
• Опыт выбора архитектуры под разные профили нагрузки: низкую задержку, высокую пропускную способность, пакетную обработку и потоковую обработку
• Навык оценки стоимости владения архитектурой, включая CAPEX/OPEX и стоимость GPU, CPU, хранилища и сети
• Опыт проектирования мультитенантных платформ и контуров изоляции
• Опыт прохождения архитектурных комитетов и согласования решений с информационной безопасностью, инфраструктурой и корпоративными архитекторами
• Будет плюсом: знание практик FinOps и планирования мощностей

• Почасовая оплата: от 1500 до 2000 рублей в час без НДС
• Работа по договору с ИП; у кандидата должен быть статус ИП
• Срок — до конца ноября с возможным продлением