NLP инженер LLM-инференса

ориентир по рынку

вакансия зп не указана

в среднем 391 000 ₽

мэтч

Загрузи резюме, чтобы видеть мэтчи с вакансиейЗагрузи резюме, чтобы видеть мэтч с вакой

подготовься к отклику

ai-инструменты

Чтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузи резюме

Описания нет

Оптимизировать инференс LLM в продакшене: SGLang, vLLM, TensorRT-LLM, KV/prefix caching, батчинг, квантизация, speculative decoding
Организовывать распределённый инференс моделей до 1T+ параметров на нескольких GPU и узлах
Проводить бенчмаркинг и вводить новое GPU-оборудование в продакшен
Обеспечивать техническое лидерство NLP- и CV-команд
Обучать и дообучать LLM, проводить post-training (RLHF, DPO)
Работать с командами валидации и подготовки наборов данных

Глубокий опыт оптимизации инференса LLM в продакшене
Опыт распределённого инференса и обучения: MoE, tensor/expert/pipeline parallelism
Понимание KV cache, attention kernels, квантизации и профилирования GPU
Опыт обучения и дообучения LLM, post-training
Техническое лидерство и практическая работа с кодом
PyTorch, transformers
Опыт работы в AI-стартапах
Продвинутый английский или русский
Будет плюсом: ядра CUDA/Triton, Computer vision, мультимодальные LLM, бэкенд-разработка на Python, Go или C#

llm инференс sglang vllm tensorrt-llm квантизация speculative decoding multi-gpu multi-node pytorch transformers cuda triton computer vision python

Если просят выйти из iCloud, прислать код из SMS, запустить или установить что-то, перевести деньги — не соглашайся: это мошенничество.

Спроси Хайрика про вакансию

Сверит с твоим резюме, подскажет вилку и вопросы на собесе.