Python разработчик

Команда создает инфраструктуру для обучения и дообучения больших языковых и визуально-языковых моделей, которые используются в Алисе, Поиске, Рекламе и других сервисах Яндекса. Работа ведется на стыке машинного обучения и аппаратной инфраструктуры, включая оптимизацию использования вычислительных ресурсов и обеспечение отказоустойчивости систем обучения.

• Оптимизировать доставку и сохранение данных, а также коммуникации между блоками обучения;
• Повышать эффективность работы внутри блоков обучения;
• Создавать и улучшать инструменты для диагностики и решения инфраструктурных проблем;
• Реализовывать подходы для обеспечения отказоустойчивости инфраструктуры обучения;
• Изучать, оценивать и внедрять новейшие подходы к организации инфраструктуры обучения с подкреплением.

• Опыт работы от 3 лет;
• Знание Python и опыт в системном программировании, разработке библиотек или фреймворков;
• Умение работать с фреймворком PyTorch и распределённым обучением через torch.distributed;
• Владение подходами параллелизации (Data, Tensor, Pipeline, Expert Parallelism);
• Понимание задач и вызовов, связанных с эксплуатацией больших моделей в продакшене;
• Навыки эффективной командной работы и обмена знаниями;
• Будет плюсом участие в создании инфраструктуры обучения ML-моделей, внедрение и оптимизация RL-решений, использование библиотек RL-обучения для LLM (veRL, slime, NeMo-RL, SkyRL) и библиотек инференса (vLLM, SGLang, TRT-LLM), работа с GPU NVIDIA (архитектура, CUDA, Triton), владение C++ и опыт низкоуровневого программирования.

• Расширенная медицинская страховка с первого месяца работы, включающая стоматологию, чекапы, ментальное здоровье и онлайн-консультации;
• Оплата 30 дней больничного в году в полном объеме;
• Программы ведения беременности и родов для сотрудников и их супругов;
• Страхование родственников по системе 80/20;
• Коррекция зрения и хирургическое лечение косоглазия после года работы;
• Наличие кабинетов терапевтов и психотерапевтов в крупных офисах.