ml инженер банковских продуктов

Halyk — банковская группа, развивающая банковские продукты и цифровые инструменты для частных клиентов и бизнеса.

• Разрабатывать и внедрять LLM/VLM-решения для бизнес-задач компании;
• Проектировать и строить RAG-пайплайны для работы с корпоративными данными;
• Разрабатывать и оптимизировать мультиагентные системы на базе LangGraph и LangChain;
• Настраивать и обслуживать инференс-серверы на базе vLLM, TGI и TensorRT-LLM;
• Выполнять дообучение моделей с использованием LoRA, QLoRA, RLHF и DPO;
• Разрабатывать REST API на FastAPI для интеграции ML-сервисов в продукт;
• Контейнеризировать и развёртывать ML-сервисы с помощью Docker и Kubernetes;
• Оптимизировать производительность моделей: выполнять квантизацию, настраивать пакетную обработку и управлять памятью GPU;
• Проектировать и поддерживать векторные базы данных для хранения эмбеддингов;
• Писать и поддерживать автоматические тесты для ML-пайплайнов;
• Мониторить качество моделей в продуктивной среде с помощью LangSmith и OpenTelemetry;
• Проводить бенчмарки и A/B-тесты для сравнения моделей и подходов;
• Работать с GPU-инфраструктурой, настраивать multi-GPU и распределённое обучение;
• Подготавливать и очищать данные для обучения и оценки моделей;
• Исследовать и внедрять новые модели, техники и фреймворки;
• Писать техническую документацию и ADR;
• Участвовать в код-ревью и наставлять младших специалистов;
• Взаимодействовать с продуктовой командой для определения требований и приоритетов;
• Оптимизировать стоимость облачной GPU-инфраструктуры;
• Обеспечивать безопасность и надёжность ML-сервисов в продуктивной среде.

• Знать Python 3.10+, включая async/await, типизацию, dataclasses и protocols;
• Знать архитектурные паттерны SOLID, DI и Clean Architecture;
• Иметь опыт тестирования с pytest, unittest, mock и интеграционными тестами;
• Владеть инструментами линтинга и форматирования ruff, black и mypy;
• Знать инструменты управления зависимостями poetry, uv и pip-tools;
• Владеть Git и GitHub, включая стратегии ветвления, CI/CD и код-ревью;
• Глубоко понимать архитектуру Transformer, включая attention, positional encoding и KV-cache;
• Иметь опыт работы с GPT-4, Claude, LLaMA 3, Mistral, Gemma и Qwen;
• Иметь опыт работы с VLM: LLaVA, InternVL, Qwen-VL, GPT-4V/4o и Pixtral;
• Знать методы дообучения LoRA, QLoRA, PEFT, полного дообучения, RLHF и DPO;
• Владеть prompt engineering, включая few-shot, Chain-of-Thought, ReAct и системные промпты;
• Знать методы оценки BLEU, ROUGE, perplexity, human eval и LLM-as-judge;
• Знать токенизацию BPE, SentencePiece и tiktoken;
• Владеть LangChain, LangGraph и LangSmith;
• Иметь опыт построения RAG-пайплайнов, работы с векторными хранилищами, эмбеддингами, загрузчиками документов и разбиением текста;
• Владеть vLLM и технологиями оптимизации инференса;
• Знать PyTorch, распределённое обучение, mixed precision и инструменты Hugging Face;
• Иметь опыт работы с GPU NVIDIA, CUDA, VRAM, multi-GPU и облачными GPU;
• Владеть FastAPI, asyncio, aiohttp, httpx, Pydantic v2, WebSockets, SSE и API-аутентификацией;
• Владеть Docker, Kubernetes, CI/CD и инструментами мониторинга;
• Знать PostgreSQL, Redis, векторные базы данных, S3/MinIO и очереди сообщений;
• Обладать аналитическим мышлением и уметь декомпозировать задачи;
• Владеть технической коммуникацией, включая документацию и ADR;
• Быстро осваивать новые модели и фреймворки;
• Иметь опыт работы в Agile/Scrum-командах;
• Английский язык — B2+;
• Будет плюсом Terraform, Pulumi, RabbitMQ, Kafka, Celery, CrewAI, AutoGen, Haystack, MLflow, W&B, Label Studio, Airflow, Prefect, Streamlit, Gradio и OpenTelemetry.

• Конкурентоспособная оплата труда по системе грейдирования;
• Премии ко Дню Независимости и годовой бонус;
• ДМС и страхование жизни;
• Мобильная связь и скидки от партнёров;
• 26 Дней отпуска с возможностью взять дополнительные дни при наступлении важных событий;
• Бонусы за рекомендации;
• Льготные условия на паркинг;
• Свободный стиль одежды smart casual;
• Тренинги, вебинары и доступ к корпоративной библиотеке;
• Чёткая система карьерного роста;
• Открытая и дружеская рабочая атмосфера;
• Спортивные турниры и активная корпоративная жизнь;
• Возможность участвовать в социальных проектах и реализовывать идеи в новых проектах группы Halyk;
• Творческая и поддерживающая команда.