Senior GPU Performance Engineer, ML-инфраструктура

Компания: Яндекс

Формат работы: удалённо или гибрид

Чем предстоит заниматься

• Повышение эффективности утилизации GPU: формировать гипотезы и исследовать способы повышения эффективности утилизации GPU, участвовать в реализации и внедрении наиболее профитных решений, формировать рекомендации и лучшие практики по повышению производительности.
• Оптимизация и профилирование: поиск узких мест (bottlenecks) в производительности и их устранение с помощью профилировщиков, оптимизация доступа к памяти (memory access), ядер (kernels), времени ожидания (latency) и пропускной способности (throughput).
• Развитие инструментов диагностики: создание и улучшение инструментов для быстрого выявления и устранения инфраструктурных проблем, влияющих на эффективность утилизации, стабильность и скорость GPU-вычислений (как для обучения, так и для инференса).
• Исследование и внедрение современных решений: изучение новейших подходов к организации инфраструктуры для обучения и инференса, оценка их эффективности и внедрение в реальные проекты.
• Анализ архитектуры, тестирование, интеграция: взаимодействие с разработчиками, ML-инженерами и системными архитекторами, участие в оценке аппаратных решений, предложения улучшений для будущих поколений GPU, разработка планов тестирования, формирование бенчмарков, анализ регрессий производительности.

Пожелания к кандидатам

• Знание Python и опыт системного программирования, разработки библиотек или фреймворков.
• Опыт работы с фреймворком PyTorch и распределённым обучением через torch.distributed.
• Применение подходов параллелизации: data parallelism, tensor parallelism, pipeline parallelism, expert parallelism для распределённого инференса или обучения.
• Интерес к LLM и MLOps: понимание задач и вызовов, связанных с эксплуатацией больших моделей в продакшене.
• Опыт работы с GPU (NVIDIA) и CUDA: понимание архитектуры GPU, разработка или оптимизация алгоритмов под CUDA, использование Nsight, nvprof или их аналогов.
• Умение оптимизировать производительность GPU-приложений и повышать эффективность утилизации GPU.
• Способность анализировать профили и метрики производительности.
• Умение читать и оптимизировать сложный код.
• Умение эффективно работать в команде и готовность делиться знаниями.

Будет плюсом

• Уверенное владение C/C++ или аналогичными низкоуровневыми языками.
• Опыт работы с библиотеками RL-обучения для LLM: veRL, slime, NeMo-RL, SkyRL и другими.
• Опыт работы с библиотеками инференса: vLLM, SGLang и TRTLLM.
• Опыт оптимизации под реальные продакшен-нагрузки, работа с low-latency- или real-time-системами.