AI Software Development Engineer, GPU-инференс

В команду Intel Software Group ищут инженера для оптимизации AI-инференса на GPU Intel. Работа охватывает весь стек AI-софта: производительные GPU-ядра, компиляцию графов и рантаймы инференса.

Задачи:

• Оптимизация AI-инференса (LLM, мультимодальные и генеративные модели) для GPU Intel.
• Проектирование, разработка и тюнинг производительных GPU-ядер и компонентов рантайма на C++, SYCL, Vulkan Compute, OpenCL или аналогичных технологиях параллельного программирования.
• Разработка и оптимизация компиляции графов и проходов компилятора с использованием MLIR, LLVM или смежных фреймворков.
• Поиск и устранение узких мест производительности на уровнях компилятора, рантайма, фреймворка и ядер.
• Профилирование, бенчмаркинг и анализ AI-нагрузок для подтверждения улучшений производительности.
• Совместная работа с командами железа, драйверов, компиляторов и фреймворков для кооптимизации софта и железа.
• Участие в развитии и оптимизации open-source фреймворков инференса: OpenVINO, llama.cpp, vLLM, PyTorch и смежных.

Минимальные требования:

• Степень бакалавра в Computer Science, Computer Engineering, Electrical Engineering или смежной области и 4+ года релевантного опыта в индустрии, либо магистра и 3+ года, либо PhD без профессионального опыта.
• Сильное владение C++, отладка и решение задач.
• Понимание архитектур GPU, драйверов графических устройств, прошивок, AI-ускорителей или систем параллельных вычислений.
• Опыт анализа производительности, профилирования и оптимизации вычислительно интенсивных приложений.
• Практический опыт с современными архитектурами нейросетей и их исполнением на аппаратных ускорителях.

Предпочтительно:

• Опыт оптимизации end-to-end AI-инференса в продакшене.
• Знакомство с фреймворками инференса: OpenVINO, PyTorch, TensorRT, ONNX Runtime или аналогичными.
• Знание методов оптимизации нейросетей: квантизация, слияние ядер, оптимизация памяти.
• Опыт работы на нескольких уровнях стека AI-софта: рантаймы инференса, компиляторы графов, GPU-ядра.
• Вклад в open-source проекты будет плюсом.

Условия:

• Гибридный формат: часть времени в офисе Intel, часть вне офиса.
• Основная локация: Фолсом, Калифорния; дополнительная: Санта-Клара, Калифорния.
• Годовая зарплатная вилка для США: 149 750 – 275 580 USD. Итоговая оплата зависит от локации, навыков, опыта и образования.
• Компенсационный пакет включает конкурентную оплату, бонусы в виде акций и программы льгот: здоровье, пенсионные накопления, отпуск.