ml инженер для LLM-сервисов

Описания нет

• Интегрировать LLM в продукты и сервисы через API, бэкенд и пайплайны обработки данных;
• Оценивать качество ответов моделей с помощью автоматических метрик и экспертной оценки;
• Обеспечивать безопасность, фильтрацию и соответствие этическим требованиям с помощью защитных механизмов;
• Строить RAG-системы, индексировать данные, работать с векторными базами данных и оптимизировать качество поиска и генерации;
• Взаимодействовать с продуктовой и ML-командой и участвовать в архитектурных решениях;
• Оптимизировать производительность и стоимость инференса с помощью квантизации, пакетной обработки и кэширования;
• Работать с мультимодальными моделями для текста, изображений и документов;
• Проектировать, обучать и дообучать LLM.

• Высшее образование в области IT, технических или математических наук;
• Уверенно владеть Python и SQL;
• Знать теорию вероятностей, математическую статистику и алгоритмы машинного обучения;
• Знать алгоритмы NLP;
• Понимать устройство LLM, их дообучение и инференс;
• Иметь опыт развёртывания ML/LLM-решений с Docker, Kubernetes и облачными платформами;
• Иметь опыт работы с prompt engineering, fine-tuning, PEFT, LoRA, adapters и RAG;
• Иметь опыт реализации агентских сценариев;
• Иметь опыт работы с векторными базами данных, включая оптимизацию индексов и запросов;
• Иметь опыт работы с LangChain, LlamaIndex и Hugging Face;
• Знать методы оценки LLM, включая BLEU, ROUGE, MMLU и пользовательские оценки;
• Иметь опыт оптимизации инференса с vLLM, TensorRT и ONNX;
• Иметь опыт работы с мультимодальными моделями;
• Будет плюсом высшее образование в области IT, технических или математических наук, опыт деплоя ML/LLM-решений, prompt engineering, fine-tuning, PEFT, LoRA, adapters, RAG, агентские сценарии, векторные базы данных, LangChain, LlamaIndex, Hugging Face, методы оценки LLM, оптимизация инференса и мультимодальные модели.

• Условий в вакансии нет