AI/LLM engineer for internal processes

ИЩЕМ AI/LLM ENGINEER ДЛЯ ПРИСОЕДИНЕНИЯ К САМОЙ ТЕХНОЛОГИЧНОЙ КОМАНДЕ ЦЕНТРА ЦИФРОВЫХ ТЕХНОЛОГИЙ ОАО «РЖД». О нас: Мы внедряем большие языковые модели (LLM) для внутренних процессов компании. Наша специфика — строгие требования ИБ: никаких внешних API (OpenAI, Claude и т.д.). Все модели, векторные базы и пайплайны должны работать локально в нашем закрытом контуре (On-Premise). Мы ищем инженера, который станет владельцем этой инфраструктуры: от развертывания моделей на GPU до написания API и сборки RAG-пайплайнов. Мы ценим прагматичный подход, использование Open-Source и умение выжимать максимум из доступного железа.

• Инференс: Разворачивать и поддерживать локальные LLM (Llama-3, Qwen, Mistral и др.) с использованием Ollama, vLLM или TGI.
• Backend: Писать микросервисы на Python (FastAPI) для интеграции локальных моделей с нашими внутренними системами (CRM, ERP, базы знаний).
• RAG (Retrieval-Augmented Generation): Проектировать пайплайны поиска по корпоративным документам (парсинг файлов, чанкинг, генерация эмбеддингов, работа с векторными БД).
• Оптимизация: Экспериментировать с квантованными моделями (GGUF, AWQ, GPTQ) для запуска на ограниченных GPU-ресурсах.
• Оркестрация: Разворачивать готовые Open-Source решения (типа Dify, Open WebUI или AnythingLLM) для быстрого предоставления AI-инструментов сотрудникам.

• Уверенное владение Python (от 2 лет), опыт создания бэкенда (FastAPI / Aiohttp).
• Хорошее знание Linux и Docker (умение написать Dockerfile, поднять docker-compose, пробросить порты и GPU).
• Опыт работы с реляционными БД (PostgreSQL).
• Практический опыт с LLM: вы запускали модели локально, понимаете, что такое контекстное окно, токенизация, температура, System Prompt.
• Знание фреймворков для работы с LLM (LangChain или LlamaIndex).
• Умение самостоятельно разбираться в документации новых Open-Source проектов на GitHub и разворачивать их.
• Будет плюсом: Понимание работы NVIDIA Container Toolkit и базовый мониторинг видеокарт (nvidia-smi, nvtop); Опыт работы с vLLM, TensorRT-LLM; Опыт работы с векторными БД (pgvector, Milvus, Qdrant, Chroma); Понимание методов квантования и их влияния на качество модели; Знание базовых принципов ИБ (маскирование данных, ролевая модель доступа)

• Гибридный формат работы.
• Оформление в соответствии с требованиями ТК РФ, стабильную заработную плату по результатам собеседования;
• Ежегодную индексацию оплаты труда;
• Профессиональный коллектив, перспективы карьерного роста и развития.
• Забота о здоровье сотрудников (ДМС, собственная система здравоохранения, включая стоматологию);
• Поддержка занятий спортом (компенсация абонемента в спортклуб, спортивные активности, организуемые компанией);
• Бесплатный проезд ж/д транспортом поездами дальнего следования (1 раз в год);
• Бесплатный пригородный проезд ж/д транспортом;
• Ежегодная материальная помощь к отпуску;
• Льготная ипотека для сотрудников;
• Широкие возможности для обучения в собственном Корпоративном университете Компании.