platform engineer

Компания является ведущим торговым брокером, обеспечивающим проведение более 40 миллионов сделок в день для миллиона клиентов по всему миру.

• Проектировать и эксплуатировать локальную платформу искусственного интеллекта для развертывания и масштабирования моделей;
• Выстраивать надежную инфраструктуру для вывода моделей в промышленную эксплуатацию;
• Взаимодействовать с инфраструктурными командами по выбору и настройке серверов с графическими процессорами и высокопроизводительных сетей;
• Управлять конфигурациями графических процессоров в Kubernetes;
• Разрабатывать и поддерживать среды выполнения моделей, включая vLLM, ONNX, SGLang, Nvidia Triton Runtimes и KServe;
• Создавать и поддерживать конвейеры непрерывной интеграции и доставки для упаковки, версионирования и развертывания моделей;
• Разрабатывать инструменты для управления жизненным циклом моделей, включая отслеживание экспериментов и реестры систем;
• Обеспечивать инфраструктуру для дообучения и адаптации моделей;
• Разрабатывать внутренние инструменты для управления входными данными и конфигурациями моделей;
• Проводить тестирование производительности многоузловых кластеров с графическими процессорами;
• Настраивать систему мониторинга и наблюдаемости для кластеров и рабочих нагрузок;
• Интегрировать трассировку для рабочих процессов вывода моделей;
• Обеспечивать соответствие требованиям безопасности при разработке платформы;
• Оценивать и сравнивать производительность вывода моделей для оптимизации платформы.

• Высшее образование в области компьютерных наук, инженерии или смежных технических дисциплин;
• Опыт работы в инфраструктуре, платформенной инженерии или распределенных системах от 5 лет;
• Практический опыт работы с инфраструктурой графических процессоров, включая стек NVIDIA или AMD и многопроцессорные среды;
• Глубокий опыт работы с Kubernetes, включая развертывание и эксплуатацию производственных нагрузок;
• Опыт работы в средах на базе Linux;
• Уверенное владение Python и/или Go;
• Понимание принципов работы распределенных систем и многоузловых нагрузок;
• Опыт работы с системами обслуживания и вывода моделей;
• Опыт работы с конвейерами непрерывной интеграции и доставки, а также автоматизацией развертывания сервисов;
• Опыт работы с инструментами мониторинга и наблюдаемости;
• Свободное владение английским языком для рабочих и деловых целей;
• Будет плюсом знание сетевых концепций для распределенных систем, таких как RDMA и высокопроизводительные сети.

• Конкурентная зарплата и ежегодный бонус по результатам работы;
• Полная поддержка при переезде для сотрудника и его семьи, включая авиабилеты, жилье, визы и юридическую помощь;
• Медицинская страховка высшего уровня с полным покрытием семьи, включая стоматологию и ментальное здоровье, а также страхование жизни;
• Неограниченные возможности для обучения, включая внешние курсы и уроки английского языка;
• Компенсация расходов на обучение в школе и детском саду;
• 21 Рабочий день ежегодного отпуска, оплачиваемые больничные, декретные и отпуска по уходу за ребенком;
• Программа признания сотрудников с подарками и бюджетами на празднование важных событий;
• Корпоративные поездки и выездные мероприятия;
• Программа участия в капитале компании;
• Служебный автомобиль MINI Cooper Countryman и частная парковка;
• Бесплатный доступ к спортивным клубам, тренажерному залу Sanctum Club и гидроциклам;
• Доступ к корпоративному врачу;
• Программа скидок в кафе, спортзалах и местных сервисах;
• Налоговые льготы для экспатов: освобождение от подоходного налога до 50%;
• Поддержка в процессе натурализации для релоцированных сотрудников.