python разработчик для RL-обучения LLM

Команда создаёт инфраструктуру для обучения и дообучения больших языковых и визуально-языковых моделей, используемых в Алисе, Поиске, Рекламе и других сервисах Яндекса. Инфраструктура включает десятки тысяч серверов, миллионы вычислительных ядер и многоуровневые соединения между ними. Команда работает на стыке ML-математики и аппаратной инфраструктуры, обеспечивая эффективное использование ресурсов и устойчивость распределённых систем.

• Оптимизировать доставку и сохранение данных;
• Оптимизировать коммуникации между блоками обучения;
• Повышать эффективность работы внутри блоков;
• Создавать и совершенствовать инструменты диагностики инфраструктурных проблем;
• Реализовывать подходы для повышения устойчивости инфраструктуры обучения к ошибкам и сбоям;
• Изучать современные подходы к организации инфраструктуры RL-обучения;
• Оценивать эффективность современных решений;
• Внедрять современные решения в реальные проекты.

• От 3 лет опыта;
• Знать Python;
• Иметь опыт системного программирования, разработки библиотек или фреймворков;
• Иметь практический опыт работы с PyTorch и распределённым обучением через torch.distributed;
• Понимать data parallelism, tensor parallelism, pipeline parallelism и expert parallelism для распределённого инференса или обучения;
• Понимать задачи и вызовы эксплуатации больших моделей в продакшне;
• Уметь эффективно работать в команде и делиться знаниями;
• Будет плюсом участие в создании инфраструктуры обучения ML-моделей, внедрение и оптимизация RL-решений, работа с библиотеками RL-обучения для LLM и библиотеками инференса, владение C++ и опыт низкоуровневого программирования и оптимизации, опыт с GPU NVIDIA и разработка или оптимизация алгоритмов с использованием CUDA или Triton.

• Расширенная медицинская страховка с первого месяца работы;
• Оплачиваемый больничный — 30 дней в году;
• ДМС покрывает плановые и неотложные медицинские услуги за рубежом;
• ДМС включает психологические консультации, психотерапию, ежегодные чекапы и вакцинацию;
• ДМС включает стоматологию и коррекцию зрения после года работы;
• Оплачивается ведение беременности и роды для сотрудниц и жён сотрудников, которые работают в компании более двух лет;
• ДМС для детей и супругов по системе 80/20: компания оплачивает 80% стоимости.