Команда ускоряет инференс нейронных сетей для задач автономного вождения — моделей восприятия сцены и планирования, которые работают непосредственно на бортовом железе автомобиля. ML-команды отвечают за обучение и качество моделей, а направление инференса обеспечивает эффективное выполнение моделей на целевых платформах с минимальной потерей точности. Фокус — вычисления на GPU и других ускорителях и измеримое ускорение в сценариях от начала до конца.
C++ разработчик
подготовьтесь к отклику
ai-инструментыЧтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузите резюме
описание
задачи
- Руководить командой CUDA-оптимизации инференса;
- Формировать технические планы и приоритеты;
- Контролировать исполнение проектов;
- Отвечать за достижение измеримых результатов по задержке, пропускной способности и эффективности использования памяти на целевом железе;
- Проектировать и оптимизировать вычислительные ядра;
- Разрабатывать и оптимизировать CUDA-ядра и операции объединения для ключевых блоков моделей;
- Снижать трафик памяти и задержки запуска;
- Обеспечивать устойчивое ускорение в сценариях от начала до конца;
- Эффективно использовать иерархию памяти, размещение данных, тайлинг, тензорные ядра и механизмы повышения загрузки;
- Системно анализировать узкие места с помощью Nsight и других профилировщиков;
- Формировать варианты оптимизаций с учётом ограничений железа.
требования
- Сильный опыт оптимизации производительности CUDA;
- Опыт работы с ядрами для matmul, conv и attention;
- Хорошее знание C++;
- Понимание иерархии памяти GPU и модели стоимости вычислительных операций;
- Умение находить узкие места с помощью профилирования и доводить оптимизации до измеримого ускорения;
- Способность к техническому лидерству или управлению командой;
- Умение аргументировать решения по производительности и работать в кросс-командной среде;
- Опыт от 3 лет;
- Будет плюсом опыт работы с CUTLASS, Triton и кастомными движками инференса, оптимизации моделей под конкретные архитектуры GPU, работы с квантованием и смешанной точностью, построения roofline-моделей и оценок задержки и пропускной способности, знание подходов fusion и оптимизаций на уровне графа.
условия
- Расширенная медицинская страховка с первого месяца;
- Оплачиваемый больничный — 30 дней в году;
- ДМС покрывает чекапы, вакцинацию, стоматологию и коррекцию зрения после года работы;
- Оплачиваются ведение беременности и роды для сотрудниц и жён сотрудников, которые работают более двух лет;
- ДМС для детей и супругов по системе 80/20.
навыки
Если просят войти через iCloud, отправить коды из SMS, запустить код, что-то установить, перевести деньги или сделать что угодно, связанное с деньгами, не соглашайтесь: это признаки мошенничества.