Описания нет
ml engineer инференса LLM
подготовься к отклику
ai-инструментыЧтобы адаптировать резюме под вакансию или составить сопроводительное письмо, загрузи резюме
описание
задачи
- Условий о задачах кандидата в вакансии нет
требования
- Опыт оптимизации инференса LLM с SGLang, vLLM или TensorRT-LLM
- Опыт работы с большими моделями на распределённой GPU-инфраструктуре
- Понимание KV cache, пакетной обработки, квантования и профилирования GPU
- Опыт обучения и дообучения LLM
- Уверенное владение PyTorch
- Умение направлять инженеров через ревью, наставничество и технические решения
условия
- Условий в вакансии нет
навыки
Если просят выйти из iCloud, прислать код из SMS, запустить или установить что-то, перевести деньги — не соглашайся: это мошенничество.