AI / LLM engineer

АО «Центр цифрового развития Национального Банка Республики Казахстан» приглашает в команду AI / LLM-инженера уровня Middle+. Мы ищем специалиста с практическим опытом разработки на Python и работы с LLM, понимающего принципы поиска, ранжирования и оценки качества моделей, способного самостоятельно доводить задачи до результата в условиях высокого темпа.

• Подключать внутренние и внешние сервисы через MCP и API;
• Настраивать контекст модели для обеспечения точных и безопасных ответов;
• Строить eval-пайплайны с использованием DeepEval, Ragas и LLM-as-a-judge;
• Выявлять регрессии до выхода в промышленную эксплуатацию и анализировать трейсы в LangFuse;
• Выводить решения в промышленную эксплуатацию через GitLab CI и ArgoCD;
• Работать со стеком: Python, FastAPI, LangChain, LangGraph, MCP, vLLM, SGLang, Ray Serve, Weaviate, LangFuse, Docker, Kubernetes, PostgreSQL.

• Коммерческий опыт разработки на Python не менее 3 лет;
• Понимание принципов работы эмбеддингов, поиска, реранкинга и методов борьбы с галлюцинациями;
• Практический опыт работы со skills, tools, MCP и контекстом моделей;
• Уверенные знания async Python, REST, gRPC, Docker и баз данных;
• Умение самостоятельно доводить задачи до результата;
• Резидентство Республики Казахстан.
• Будет плюсом: Опыт работы с GPU-кластерами и локальным инференсом; Опыт реализации проектов на LangChain или LangGraph; Опыт работы с инструментами оценки качества моделей и практиками GitOps

• Доступ к мощному GPU-кластеру (NVIDIA H200);
• Участие в развитии AI-продуктов в активной продуктовой команде;
• Возможности быстрого профессионального и карьерного роста;
• Конкурентоспособную заработную плату по результатам собеседования;
• ДМС для сотрудника и членов семьи;
• Официальное трудоустройство и оплачиваемый отпуск;
• Полную занятость, работу в офисе;