Инженер по тестированию (manual) AI-агентов

РТЛабс создаёт и развивает масштабные цифровые сервисы Госуслуг — портал, мобильные приложения, социально значимые услуги, системы электронного правительства. Наша команда делает жизнь миллионов пользователей проще и позволяет решать жизненные вопросы в несколько кликов Наша команда применяет продуктовый подход и ориентируется на пользователей. Мы стараемся быть лидерами изменений на Госуслугах и внедрять новые практики командной работы. Робот Макс — умный помощник на Госуслугах, который понимает с полуслова. Цель — сопроводить, поддержать и помочь пользователю. Стратегия команды — выйти за рамки Госуслуг и отвечать на любой вопрос к государству

• Планировать и сопровождать релизы AI‑агентов и связанных сервисов
• Анализировать требования и технические постановки, оценивать тестовое покрытие
• Проводить ручное функциональное, интеграционное, регрессионное и E2E‑тестирование AI‑агентов и их интеграций
• Тестировать API агентов и вспомогательных сервисов (REST, WebSocket/Socket.io)
• Разбирать логи, локализовать ошибки, взаимодействовать с разработкой и аналитикой для быстрого фикса
• Вести тестовую документацию: чек‑листы, тест‑кейсы, тест‑планы, сценарии E2E (в Jira/TM4Jira)
• Автоматизировать рутинные проверки на Python (pytest + requests), постепенно наращивая долю автотестов готовом фреймворке автотестирования в CI/CD (GitLab CI / GitHub Actions)
• Участвовать в оценке качества ML/LLM‑компонентов: проверка ответов, выявление галлюцинаций, базовые метрики (BLEU/ROUGE, LLM‑as‑judge), регрессионные проверки поведения агентов

• Имеешь опыт тестирования 2–4 года: веб‑приложения + API, уверенное ведение тест‑кейсов/чек‑листов, работа в Jira
• Имеешь навыки автоматизациа на Python: pytest (фикстуры, параметризация), requests для API; понимание, как встраивать автотесты в готовый фреймворк и запускать в CI/CD
• Имеешь опыт тест‑дизайна: позитив/негатив/пограничные сценарии, классы эквивалентности, граничные значения; умение проектировать сложные E2E для микросервисных и диалоговых ML‑продуктов
• Понимаешь ML/LLM‑концепцию: классификация, ранжирование, векторизация, поиск, RAG, мультиагентные/агентные системы; понимание SDLC для ML (data → train → deploy → monitor)
• Понимаешь микросервисную архитектуру: REST, очереди, базовое представление о WebSocket/Socket.io, Redis, Kibana — на уровне чтения логов и понимания, где искать проблему
• Для нас важно, чтобы опыт работы в резюме был по ТК
• Будет плюсом: Имеешь опыт участия хотя бы в одном проекте с ML/LLM: тестирование качества ответов, галлюцинаций, базовых метрик (BLEU/ROUGE, LLM‑as‑judge) — будет большим плюсом; Имеешь опыт backend‑автотестов и тестирования Edge сценариев; Имеешь опыт настройки тестового окружения, работы с Docker/K8s на базовом уровне; Хочешь развиваться в сторону SDET / QA‑инженера в AI‑направлении: eval‑фреймворки для LLM, автоматизация оценки агентов, метрики качества

• Гибридный формат работы 3 дня в неделю в офисе и 2 дня дома для Москвы, Санкт-Петербурга, Казани, Ярославля, Рыбинска, Нижнего Новгорода, Воронежа, Краснодара, Самары, Екатеринбурга, Новосибирска, Владивостока
• Удалённый формат работы в других регионах РФ
• Опыт работы в аккредитованной IT-компании над социально значимыми уникальными проектами
• Стабильный доход и квартальные премии
• Гибкое начало рабочего дня
• ДМС со стоматологией и международной страховкой
• Интересную программу внутреннего и внешнего обучения
• Сильную команду талантливых специалистов
• Прозрачные условия для развития и карьерного роста