ML Infrastructure Engineer, GPU-бенчмаркинг

Nebius развивает облачную AI-платформу полного стека: от работы с данными и обучения моделей до продакшн-развёртывания. Компания котируется на Nasdaq (NBIS), головной офис в Амстердаме, R&D-хабы в Европе, Великобритании, Северной Америке и Израиле. В команде более 1500 человек, включая сотни инженеров.

Задачи

• Работать с командами разработки и аппаратного обеспечения над профилированием и анализом производительности GPU на уровне системы и ядер.
• Сравнивать производительность GPU на разных платформах, архитектурах и программных стеках (например, CUDA, ROCm).
• Отлаживать и оптимизировать ML-нагрузки для эффективной работы на GPU, выявлять и устранять узкие места.
• Проводить приёмочное тестирование новых GPU-кластеров на соответствие требованиям производительности, стабильности и совместимости для AI-нагрузок.
• Ставить эксперименты на различных конфигурациях GPU-систем для оценки влияния стратегий interconnect и системных оптимизаций на производительность и масштабируемость.
• Разрабатывать инструменты и дашборды для визуализации метрик производительности, узких мест и трендов.
• Вносить вклад во внутренние инструменты, фреймворки и лучшие практики.

Требования

• Глубокое понимание теоретических основ машинного обучения.
• Понимание аспектов производительности обучения и инференса больших нейросетей (data/tensor/context/expert parallelism, offloading, кастомные ядра, аппаратные возможности, оптимизации attention, динамический батчинг и т.д.).
• Опыт работы с современными фреймворками глубокого обучения (PyTorch, JAX, Megatron-LM, TensorRT-LLM).
• Понимание GPU-стека: CUDA, NCCL, драйверы и соответствующие библиотеки.
• Знакомство с контейнеризированными средами (например, Docker, Kubernetes).
• Сильные коммуникативные навыки и умение работать самостоятельно.

Будет плюсом

• Знакомство с современными фреймворками инференса LLM (vLLM, SGLang, TensorRT).
• Опыт работы с Python и инструментами профилирования производительности (например, Nsight, nvprof, perf).
• Знакомство с облачными ML-платформами AWS, GCP, Azure ML.
• Вклад в open-source инструменты бенчмаркинга ML.

Условия

• Конкурентная компенсация.
• Возможности карьерного роста и обучения.
• Гибкость и самостоятельность.
• Коллаборативная и инновационная культура.
• Работа над значимыми AI-проектами.
• Международное окружение и сильные команды.