Research LLM engineer in fintech

Внутри банка уже много задач на LLM и большой объем потребления. Нам нужны внутренние модели, которые дают лучший price/performance на конкретных задачах. У инженера есть возможность позаниматься совершенно разными задачами и определить оптимальные пути развития. Роль устроена end-to-end: один человек может заниматься как выбором и дообучением модели, так и доведением ее до продакшн-инференса.

• Дообучать модели не с целью создания универсальной большой модели, а для получения лучших метрик price/performance на ключевых задачах внутри организации.
• Определять оптимальный способ инференса наших моделей и выбирать метрики успешности.
• Выполнять задачи end-to-end: от выбора и дообучения модели до продакшн-инференса.

• Понимание устройства современных LLM и основных этапов их обучения, включая post-training для агентов.
• Опыт работы с фреймворками для RL (verl, slime, prime-rl) и оркестрацией окружений для агентов (Harbor, verifiers).
• Понимание устройства инференса LLM и механизмов его ускорения (KV-кэширование, батчинг, параллелизм).
• Опыт работы с движками инференса (vLLM, SGLang, TensorRT-LLM или аналоги).
• Навыки программирования на Python и PyTorch.
• Готовность работать на стыке ML-систем, инфраструктуры и NLP в зависимости от стадии проекта.
• Будет плюсом: Опыт участия в проектах по обучению LLM использовать инструменты, рассуждать перед ответом или работать с длинным контекстом; Наличие open-source проектов или публикаций по инференсу или обучению LLM

• Возможность работать из офиса или удаленно.
• ДМС со стоматологией, массажем, телемедициной, чек-апами с первого месяца работы.
• Три оплачиваемых отгула в год.
• Страхование от несчастных случаев и критических заболеваний, страхование выезжающих за границу.
• Бесплатные индивидуальные консультации психологов, юристов, экспертов по личным финансам и консультантов по здоровому образу жизни.
• Программы профессионального обучения: hard- и soft-навыки, лидерские компетенции.
• Льготные условия по банковским продуктам и услугам.
• Скидки от партнеров банка.