ml инженер инфраструктуры ИИ

Команда управляет графическими процессорами, от эффективности которых зависят ключевые сервисы Яндекса: Поиск, Реклама, Алиса, Такси, Музыка и другие продукты на базе ИИ. Она работает со 150+ продуктами, где GPU используются как основа для моделей ИИ, и связывает инженерные решения с финансовой эффективностью бизнеса.

• Формировать гипотезы и исследовать способы повышения эффективности утилизации GPU;
• Участвовать в реализации и внедрении наиболее эффективных решений;
• Формировать рекомендации и лучшие практики по повышению производительности;
• Находить и устранять узкие места производительности с помощью профилировщиков;
• Оптимизировать доступ к памяти, ядра, время ожидания и пропускную способность;
• Создавать и улучшать инструменты для выявления и устранения инфраструктурных проблем;
• Изучать современные подходы к организации инфраструктуры для обучения и инференса;
• Оценивать эффективность современных решений и внедрять их в реальные проекты;
• Взаимодействовать с разработчиками, ML-инженерами и системными архитекторами;
• Участвовать в оценке аппаратных решений и предлагать улучшения для будущих поколений GPU;
• Разрабатывать планы тестирования и формировать бенчмарки;
• Проводить анализ регрессий производительности.

• От 5 лет опыта;
• Знание Python и опыт системного программирования;
• Опыт разработки библиотек или фреймворков;
• Опыт работы с PyTorch и распределённым обучением через torch.distributed;
• Знание подходов параллелизации: data parallelism, tensor parallelism, pipeline parallelism, expert parallelism;
• Понимание задач и вызовов эксплуатации больших моделей в продакшене;
• Опыт работы с GPU NVIDIA и CUDA;
• Понимание архитектуры GPU;
• Опыт разработки или оптимизации алгоритмов под CUDA;
• Опыт использования Nsight, nvprof или аналогичных инструментов;
• Умение оптимизировать производительность GPU-приложений и повышать эффективность утилизации GPU;
• Умение анализировать профили и метрики производительности;
• Умение читать и оптимизировать сложный код;
• Умение эффективно работать в команде и готовность делиться знаниями;
• Будет плюсом уверенное владение C/C++ или аналогичными низкоуровневыми языками, опыт работы с библиотеками RL-обучения для LLM, библиотеками инференса vLLM, SGLang и TRTLLM, оптимизацией под реальные продакшен-нагрузки и low-latency- или real-time-системами.

• Расширенная медицинская страховка с первого месяца;
• Оплачиваемый больничный до 30 дней в году с сохранением полной зарплаты;
• ДМС покрывает плановую и неотложную медицинскую помощь за рубежом, страхование от несчастных случаев, лечение критических заболеваний, стоматологию, чекапы и вакцинацию;
• Онлайн-консультации с психологами и психотерапия в офисах, где есть кабинет психотерапевта;
• После года работы ДМС покрывает коррекцию зрения и хирургическое лечение косоглазия;
• Оплачиваются ведение беременности и роды для сотрудниц и жён сотрудников, которые работают в компании более двух лет;
• ДМС для детей и супругов по системе 80/20: компания оплачивает 80% стоимости.