Backend Developer

Добавь резюме в профиле, а нейросеть определит твою категорию. Затем ты сможешь генерировать сопроводительные письма для вакансий этой категории

Команда развивает AI-сервис с аудиторией десятков тысяч пользователей и высоким объёмом запросов к AI-провайдерам. Разрабатывается умный роутер запросов между AI-провайдерами (OpenAI, Anthropic, DeepSeek, Google и др.) с интеллектуальной маршрутизацией и оптимизацией расходов.

• Спроектировать и разработать микросервис, который принимает запросы в OpenAI-совместимом формате и интеллектуально маршрутизирует их между AI-провайдерами
• Разработать API-шлюз с единым эндпоинтом, совместимым с OpenAI API (Chat Completions формат)
• Создать классификатор входящих запросов по сложности (simple / medium / complex / code / image) — на основе эвристик с последующей эволюцией в ML-модель
• Настроить таблицу маршрутизации: какой провайдер и модель используется для каждого типа запроса
• Реализовать проксирование запросов к провайдерам (OpenAI, Anthropic, Google, DeepSeek и др.) с поддержкой streaming
• Внедрить логирование метрик: стоимость каждого запроса, latency, выбранная модель, токены input/output
• Настроить автоматический fallback при недоступности провайдера (circuit breaker паттерн)
• Создать внутренний rate limiter per provider для предотвращения каскадных отказов
• Разработать дашборд аналитики: расход по провайдерам, экономия, графики за период
• Внедрить кеширование запросов (exact match + semantic cache)
• Создать систему API-ключей, биллинг, rate limiting по ключам

• Опыт работы с OpenAI API (или аналогичными LLM API)
• Понимание streaming (SSE)
• Опыт проектирования и разработки микросервисов
• Понимание REST API, работа с несколькими внешними API параллельно
• Умение писать чистый, поддерживаемый код
• Самостоятельность: задачи ставятся на уровне «что нужно получить», а не «как именно сделать»
• Будет плюсом опыт с LLM-роутингом или оркестрацией моделей, работа с биллинговыми системами и ЮКассой, опыт работы с Redis для кеширования и rate limiting, понимание токенизации и ценообразования LLM-моделей, опыт с ML (LightGBM/CatBoost) — для развития классификатора

• Проектная занятость с перспективой постоянного сотрудничества
• Прямое общение с основателями, без бюрократии