Edge AI / ML Deployment инженер

Команда занимается обучением LLM, VLM и CV моделей, созданием нативных омнимодальных архитектур, новыми способами кодирования и совместного обучения в доменах изображений, аудио, видео. Основные направления: обучение LLM и VLM с нуля, разработка новых архитектур, Computer Vision research, создание opensource инструментов, сбор и подготовка данных, деплой моделей для MVP. Работа на кластере с GPU уровня H100.

Ищем Edge AI / ML Deployment инженера, который проведёт модель через весь путь от RnD-прототипа до prod-ready решения: оптимизация инференса, квантование и запуск на Edge-девайсах, масштабирование на кластерах.

Обязанности

• подготовка RnD-технологий к prod-ready решению;
• оптимизация моделей и кода инференса для масштабирования на кластерах;
• подготовка и запуск моделей на Edge-девайсах (Nvidia Jetson, Rockchip, Amlogic Khadas).

Требования

• опыт работы с Nvidia Jetson (Orin, Xavier, Nano);
• уверенный C++ (для инференса) + Python (для скриптов и подготовки);
• умение делать квантование моделей из PyTorch-весов (FP32, FP16, FP8, FP4), квантование (INT8, INT4), QAT и калибровка моделей;
• Linux, CMake, опыт кросс-компиляции под ARM.

Будет плюсом

• опыт работы с NPU от Rockchip (RK3588, RK3568, RV1126) / Amlogic (A311D, C308X, Khadas);
• знание API Nvidia CUDA.

Условия

• комфортный современный офис рядом с м. Кутузовская;
• гибридный формат работы;
• ежегодный пересмотр зарплаты, годовая премия от 3х окладов;
• большой спортзал и зоны отдыха;
• система обучения для профессионального и карьерного развития;
• расширенный полис ДМС с первого дня работы и страхование для семьи;
• программа ипотеки для сотрудников со скидкой -1/3 от текущей ставки;
• подписка Прайм с возможностью совместного использования на трёх близких;
• вознаграждение за рекомендацию друзей в команду Сбера.