.svg)
Про зарплаты
Анонимные данные по зарплатам и грейдам.
Можно сверить вилку с рынком.
Платформа предназначена для персонализированного общения с AI-персонажами. Компания дообучает модели с открытым исходным кодом и работает с LLM до 1T параметров.
1 окт
nlp engineer for llm inference
ориентир по рынку
вакансия
зп не указана
в среднем
391 000 ₽
мэтч
Загрузи резюме, чтобы видеть мэтчи с вакансией
подготовься к отклику
ai-инструментыЧтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузи резюме
описание
задачи
- Оптимизировать скорость, стоимость и стабильность инференса больших LLM
- Развивать распределённый инференс на многоузловой инфраструктуре с несколькими GPU
- Обучать и дообучать LLM, развивать агентные архитектуры
- Обеспечивать техническое лидерство NLP/CV-команды
требования
- Иметь производственный опыт оптимизации инференса LLM с SGLang, vLLM или TensorRT-LLM
- Иметь опыт распределённого инференса и обучения больших моделей: MoE, параллелизм по тензорам, экспертам или конвейерам, многоузловые GPU
- Разбираться в KV cache, ядрах attention, пакетной обработке, квантовании и профилировании GPU
- Иметь опыт обучения, дообучения и последующего обучения моделей: RLHF, DPO или аналоги
- Уверенно работать с PyTorch и Transformers
- Английский B2+
условия
- Около 70% времени — практическая инженерная работа, без управления проектами и людьми
- Работа с инфраструктурой 32×H200 и AWS
- Высокое вознаграждение
- Перспектива роста до Head of ML
навыки
Если просят выйти из iCloud, прислать код из SMS, запустить или установить что-то, перевести деньги — не соглашайся: это мошенничество.
