data scientist LLM

Авито — онлайн-платформа объявлений с категориями товаров, автомобилей, работы, услуг и недвижимости. Сервис объединяет продавцов и покупателей, включая частных лиц, малый и средний бизнес и корпорации, а также поддерживает безопасные сделки через Авито Доставку. Команда LLM Core обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито, адаптируя open source-решения под русский язык и доменную специфику.

• Формулировать и проверять гипотезы в области претрейна, continual pre-training, post-training, RL, синтетических данных и архитектур моделей;
• Самостоятельно вести исследовательские и инженерные задачи: ставить цели, выбирать метрики, проектировать эксперименты, реализовывать решения, анализировать результаты и внедрять их;
• Масштабировать обучение и инференс, профилировать узкие места и повышать эффективность распределённого обучения и инференса;
• Работать с квантованием, speculative decoding и современными inference-движками;
• Строить процедуры оценки качества, проводить анализ ошибок, находить регрессии и проектировать датасеты и метрики для сравнения моделей по качеству, latency и стоимости;
• Писать продакшен-код на Python и PyTorch;
• Проводить code review и повышать воспроизводимость экспериментов, надёжность и поддерживаемость ML-решений;
• Делиться знаниями, менторить менее опытных коллег и участвовать в архитектурных обсуждениях и LLM-семинарах;
• Масштабировать базовую модель A-vibe и исследовать новые архитектуры и подходы к обучению;
• Оптимизировать скорость и стоимость инференса высоконагруженных моделей в продакшене;
• Проектировать и помогать разрабатывать внутренние LLM-платформы и мультиагентные системы;
• Строить инфраструктуру для оценки качества моделей.

• Глубоко понимать современные ML-алгоритмы, Transformer и принципы обучения LLM;
• Иметь практический опыт обучения, адаптации или внедрения NLP-моделей;
• Уметь превращать идеи в проверяемые эксперименты;
• Уметь самостоятельно работать с неопределённостью, декомпозировать проблемы, выбирать метрики, анализировать результаты и принимать технические решения;
• Уверенно писать на Python и хорошо знать PyTorch;
• Знать инженерные практики разработки;
• Понимать компромиссы между качеством, latency, throughput и стоимостью;
• Будет плюсом опыт continual pre-training, замены или расширения токенизатора, SFT, LoRA или RL-подходов к post-training, опыт распределённого обучения или оптимизации инференса, знакомство с DeepSpeed, vLLM, SGLang или TensorRT-LLM, опыт построения пайплайнов оценки качества, синтетических датасетов или систем автоматического анализа ошибок моделей, работа с MLOps-инструментами Weights & Biases, MLflow, DVC или аналогами, публикации исследований, участие в open source-проектах или высокие места в соревнованиях по машинному обучению.

• Возможность влиять на продукт, которым пользуются миллионы людей;
• Доступ к производительным GPU-кластерам для экспериментов;
• Команда экспертов для обсуждения идей и подходов;
• Бюджет на обучение, курсы, конференции и профессиональную литературу;
• ДМС со стоматологией с первого дня;
• В офисе принимают терапевт и массажист;
• Возможность работать из офисов в четырёх городах России.