Мы управляем одним из самых дефицитных и самых дорогих ресурсов компании — графическими процессорами (GPU). Их эффективное использование критически важно для работы ключевых сервисов Яндекса. Наша миссия — обеспечить максимальную отдачу и эффект от каждой GPU-карты.
Задачи
- Повышение эффективности утилизации GPU
- Формировать гипотезы и исследовать способы повышения эффективности утилизации GPU, участвовать в реализации и внедрении наиболее профитных решений. Формировать рекомендации и лучшие практики по повышению производительности.
- Оптимизация и профилирование
- Находить узкие места в производительности и устранять их с помощью профилировщиков, оптимизировать доступ к памяти, время ожидания и пропускную способность.
- Развитие инструментов диагностики
- Создавать и улучшать инструменты для быстрого выявления и устранения инфраструктурных проблем, которые влияют на эффективность утилизации, стабильность и скорость GPU-вычислений.
- Исследование и внедрение современных решений
- Изучать новейшие подходы к организации инфраструктуры для обучения и инференса, оценивать их эффективность и внедрять в проекты.
- Анализ архитектуры, тестирование, интеграция
- Взаимодействовать с разработчиками, ML-инженерами и системными архитекторами. Участвовать в оценке аппаратных решений и предлагать улучшения для будущих поколений GPU.
Требования
- Знаете Python и занимались системным программированием
- Работали с фреймворком PyTorch
- Оптимизировали производительность GPU-приложений и повышали эффективность утилизации GPU
- Работали с GPU (NVIDIA) и CUDA
- Применяете подходы параллелизации для распределённого инференса или обучения
Будет плюсом
- Уверенно владеете C/C++ или аналогичными низкоуровневыми языками
- Работали с библиотеками RL-обучения для LLM
Бонусы
Яндекс — это комьюнити. Тут есть и спортивные клубы, и книжный клуб, и киберспортивное сообщество. Это не все бонусы — полный список доступен на сайте.
OTUS
Stepik · Samsung AI Center