ML engineer

MyStartups – дочерняя IT-компания Astana Motors, специализирующаяся на создании технологичных решений для оптимизации бизнес-процессов в разных сферах.

• Самостоятельное проектирование архитектуры и вывод ML-сервисов в промышленную эксплуатацию (от идеи до продакшена).
• Построение RAG-систем полного цикла: от парсинга и чанкинга документов до выдачи ответа с источниками.
• Развёртывание и инференс open-source LLM (Qwen, Llama и т.п.), настройка параметров инференса (batching, quantization, KV-cache).
• Проектирование схем, индексация и тюнинг поиска в векторных БД (pgvector, Milvus/Qdrant/Weaviate).
• Оценка качества генерации: контроль галлюцинаций (hallucination control), ручной и автоматизированный аудит, расчет метрик (faithfulness, relevance).
• Настройка стратегий ретрива (hybrid search, reranking, semantic chunking) и работы с embedding-моделями.
• Внедрение NL2SQL, структурированной генерации (JSON, function calling, tool use) и мультиагентных систем (оркестрация, MCP-серверы).
• Fine-tuning/LoRA открытых моделей под доменные задачи, внедрение guardrails и модерации контента.
• Разработка API-сервисов на FastAPI (Pydantic-схемы, async-эндпоинты) и построение дашбордов.
• Оптимизация SQL-запросов в PostgreSQL.
• Самостоятельная настройка CI/CD пайплайнов деплоя.
• Настройка мониторинга сервисов (Prometheus/Grafana: алерты и дашборды) и версионирования моделей/данных (MLflow, DVC).
• Координация задач в команде, техническое лидирование небольшой группы разработчиков.
• Декомпозиция задач и оценка сроков.
• Погружение в новые доменные области (юридические, HR, промышленные регламенты) для построения специфичных RAG-систем.
• Подготовка технической документации и памяток для внутренних команд.

• 2–3 года разработки ML/AI-решений, из них не менее 1 года — с LLM/RAG-системами в production.
• Опыт работы в командах с распределением задач (не соло-разработка).
• Портфолио реализованных проектов с измеримым результатом (метрики, нагрузка, количество пользователей).
• Понимание промпт-инжиниринга: few-shot, structured output, работа с системными промптами.
• Production-уровень Python (async/await, тестирование, чистая архитектура проекта).
• Уверенный уровень SQL и PostgreSQL.
• Английский язык не ниже B2 (для работы с документацией и моделями).
• Уверенное владение Docker, Docker Compose (опыт написания production Dockerfile).
• Опыт работы с CI/CD (GitHub Actions, GitLab CI).
• Опыт с системами кэширования (Redis) и объектными хранилищами (MinIO/S3).
• Понимание работы с GPU-инфраструктурой: multi-GPU setups, tensor parallelism, распределение ресурсов.
• Будет плюсом: Kubernetes, виртуализация (Proxmox или аналоги) для локальных ML-серверов; Понимание RLHF/DPO, классический ML (scikit-learn, NLP-задачи), базовый статистический анализ; Опыт работы с казахоязычными или мультиязычными NLP-задачами; Опыт вывода моделей на ограниченном железе (Apple Silicon, single-GPU) с оптимизацией throughput

• Конкурентная заработная плата и официальное оформление по ТК РК;
• Комфортный офис со всеми удобствами на Розыбакиева 263;
• Бесплатная парковка в ТРЦ Mega — 24/7;
• Корпоративная связь при необходимости;
• Медицинское обслуживание для тебя и двух близких родственников (лимит 400 000 ₸ в год, включая аптеку и стоматологию);
• 50% компенсация абонемента в любой фитнес-центр города;
• 1 Day Off в честь дня рождения;
• Профессиональный рост и внутренние переходы внутри группы компаний Astana Group;
• Регулярные тимбилдинги и яркая корпоративная культура;
• Ежемесячные Sprint Review с акционерами и IT-специалистами — вкусная еда, напитки и живое общение.