c++ разработчик ML-инфраструктуры

Команда разрабатывает сервисы для быстрого инференса нейронных моделей в продакшне — от лёгких моделей на CPU до трансформеров на миллиарды параметров, работающих при нагрузке в сотни тысяч RPS. Сервис включает многоуровневое кеширование, мониторинг, доставку и дообучение моделей, а также инструменты для быстрого запуска новых инсталляций.

• Развивать коробочное решение для инференса;
• Реализовывать динамическую балансировку, многоуровневое кеширование и динамические конфигурации;
• Развивать инструменты для запуска сервиса в облаке;
• Помогать внедрять решение в командах, эксплуатирующих ML-модели;
• Взаимодействовать с заказчиками и реализовывать необходимый для них функционал;
• Разрабатывать новые бэкенды для применения нейросетей;
• Консультировать по запуску новых инсталляций;
• Анализировать мировые аналоги решений для инференса и систем развёртывания;
• Следить за трендами инференса и заранее готовить инфраструктуру для новых размеров и типов моделей.

• Опыт программирования не менее двух лет;
• Хорошее владение C++ или готовность быстро разобраться;
• Знание конкурентного программирования на C++ или Linux;
• Будет плюсом опыт разработки высоконагруженных сервисов на C++, развёртывания и эксплуатации сервисов для ML-инференса на CPU/GPU, знакомство с Triton и TRT-LLM, знание устройства нейронных моделей и систем Unix/Linux.

• Расширенная медицинская страховка с первого месяца работы;
• Оплачиваются 30 дней больничного в году;
• ДМС покрывает чекапы, вакцинацию, стоматологию, коррекцию зрения, лечение критических заболеваний и помощь за рубежом;
• Доступны психологические консультации и психотерапия в офисах с соответствующим кабинетом;
• Оплачиваются ведение беременности и роды для сотрудниц и жён сотрудников, работающих более двух лет;
• ДМС для детей и супругов по системе 80/20.