описание
Команда ускоряет инференс нейронных сетей для задач автономного вождения — моделей восприятия сцены и планирования, которые работают непосредственно на бортовом железе автомобиля. ML-команды отвечают за обучение и качество моделей, а направление инференса обеспечивает эффективное выполнение моделей на целевых платформах с минимальной потерей точности. Фокус — вычисления на GPU и других ускорителях и измеримое ускорение в сценариях от начала до конца.
задачи
- Руководить командой CUDA-оптимизации инференса;
- Формировать технические планы и приоритеты;
- Контролировать исполнение проектов;
- Отвечать за достижение измеримых результатов по задержке, пропускной способности и эффективности использования памяти на целевом железе;
- Проектировать и оптимизировать вычислительные ядра;
- Разрабатывать и оптимизировать CUDA-ядра и операции объединения для ключевых блоков моделей;
- Снижать трафик памяти и задержки запуска;
- Обеспечивать устойчивое ускорение в сценариях от начала до конца;
- Эффективно использовать иерархию памяти, размещение данных, тайлинг, тензорные ядра и механизмы повышения загрузки;
- Системно анализировать узкие места с помощью Nsight и других профилировщиков;
- Формировать варианты оптимизаций с учётом ограничений железа.
требования
- Сильный опыт оптимизации производительности CUDA;
- Опыт работы с ядрами для matmul, conv и attention;
- Хорошее знание C++;
- Понимание иерархии памяти GPU и модели стоимости вычислительных операций;
- Умение находить узкие места с помощью профилирования и доводить оптимизации до измеримого ускорения;
- Способность к техническому лидерству или управлению командой;
- Умение аргументировать решения по производительности и работать в кросс-командной среде;
- Опыт от 3 лет;
- Будет плюсом опыт работы с CUTLASS, Triton и кастомными движками инференса, оптимизации моделей под конкретные архитектуры GPU, работы с квантованием и смешанной точностью, построения roofline-моделей и оценок задержки и пропускной способности, знание подходов fusion и оптимизаций на уровне графа.
условия
- Расширенная медицинская страховка с первого месяца;
- Оплачиваемый больничный — 30 дней в году;
- ДМС покрывает чекапы, вакцинацию, стоматологию и коррекцию зрения после года работы;
- Оплачиваются ведение беременности и роды для сотрудниц и жён сотрудников, которые работают более двух лет;
- ДМС для детей и супругов по системе 80/20.
навыки
компания
Отслеживание городского транспорта в режиме реального времени, маршруты с пересадками, информация о пробках и остановках. Всё это теперь встроено в Яндекс Go, а также доступно в разделе «Транспорт» в Яндекс Картам
Подробнее о компании →