ML инженер

Команда занимается внедрением и оптимизацией работы больших языковых моделей в сервисах компании, обеспечивая эффективное использование вычислительных ресурсов в production.

• Разбирать научные публикации по теме ускорения инференса и систематизировать перспективные методы;
• Проводить эксперименты по проверке гипотез для Alice AI LLM;
• Подтверждать практическую применимость методов через замеры качества и скорости работы;
• Создавать универсальные инструменты для ускорения инференса, доступные другим ML-инженерам компании.

• Опыт работы с современными большими языковыми моделями и понимание их архитектуры;
• Уверенное владение Python и опыт разработки на Torch;
• Глубокие знания в области NLP;
• Знание пайплайна инференса генеративных моделей и методов оптимизации, включая KV-кеширование;
• Понимание влияния batch_size на вычислительные процессы;
• Знание метрик и требований к API моделей: RPS, latency, GPU VRAM, SM utilization;
• Будет плюсом уверенное владение C++ и опыт программирования на CUDA.

• Расширенная медицинская страховка с первого месяца, включая стоматологию, чекапы и помощь за рубежом;
• Страхование родственников по системе 80/20;
• Доступ к внутренней образовательной платформе, менторству и оплата участия в профильных конференциях;
• Наличие спортзалов в крупных офисах, корпоративные тренеры и скидки в фитнес-клубы;
• Гибкий график работы;
• Льготные жилищные займы для сотрудников российских офисов;
• Программы поддержки для родителей и детей.