c++ developer

Компания ITRex является AI/ML-ориентированной продуктово-инжинирингою компанией.

• Внедрять, оценивать, профилировать и оптимизировать AI inference-пайплайны для высокопроизводительного исполнения на устройстве и в продакшене;
• Разрабатывать и деплоить модели на edge-устройствах с использованием фреймворков вроде llama.cpp и ggml;
• Сотрудничать с исследователями для перевода моделей из исследовательской стадии в продакшн;
• Интегрировать AI-функции в существующие продукты.

• Иметь 4+ лет профессионального опыта в Modern C++ (C++17/20);
• Обладать глубокими знаниями управления памятью, многопоточности, профилирования и оптимизации производительности;
• Иметь опыт отладки низкоуровневых проблем (утечки памяти, фрагментация, OOM, concurrency);
• Иметь опыт разработки в Linux-среде;
• Иметь опыт интеграции ML-моделей в продакшен и оптимизации inference-пайплайнов;
• Иметь практический опыт с фреймворками: llama.cpp, ggml, ONNX Runtime, TensorRT / TensorRT-LLM, OpenVINO, MLC LLM, ExecuTorch, TVM;
• Иметь опыт профилирования производительности inference и оптимизации использования памяти и задержек;
• Понимать архитектуры глубокого обучения: Transformer, LLMs, Diffusion Models, токенизация, attention, KV Cache, техники квантизации, конвертация и деплой моделей;
• Будет плюсом опыт с CUDA, Vulkan Compute, Metal, OpenCL, знание TypeScript или Python, вклад в open-source проекты AI-инфраструктуры.

• Гибкость удалённой работы;
• Конкурентная компенсация и социальные бенефиты (медицина, wellness, обучение);
• Возможности карьерного роста, внутренняя поддержка и технические мероприятия.