О команде и роли
ChatGPT использует большой и растущий парк GPU для надежного и эффективного обслуживания инференс-нагрузок. Команда разрабатывает системы и инструменты, которые позволяют внедрять новые модели, управлять продакшн-развертываниями, реагировать на операционные проблемы и эффективно использовать инфраструктуру в масштабе. Работа охватывает распределенные системы, платформенную инженерию, автоматизацию инфраструктуры и опыт разработчиков. Команда тесно сотрудничает с исследовательскими, инфраструктурными и продуктовыми командами, чтобы сделать развертывание моделей более надежным, эффективным и управляемым.
Ищем инженера-программиста с опытом создания или эксплуатации крупномасштабных производственных систем. Вы будете проектировать и разрабатывать системы, поддерживающие жизненный цикл моделей в продакшене, включая оркестрацию развертывания, управление конфигурацией, операционную автоматизацию, надежность и управление мощностями. Вы поможете превратить сложные операционные процессы в масштабируемые платформенные возможности, которые позволят командам OpenAI развертывать и управлять моделями с большей уверенностью и меньшими ручными усилиями. Роль подходит инженерам, которым нравится решать сложные операционные проблемы и создавать программное обеспечение, упрощающее эксплуатацию производственной инфраструктуры в масштабе.
Задачи
- Развивать платформу для развертывания, настройки и управления моделями в ChatGPT.
- Разрабатывать системы оркестрации развертывания, раскатки моделей, операционной видимости и готовности к продакшену.
- Создавать абстракции и инструменты, упрощающие сложную инфраструктуру и улучшающие опыт разработчиков.
- Автоматизировать операционные процессы, включая обнаружение инцидентов, диагностику, смягчение последствий и восстановление.
- Повышать надежность, масштабируемость и эффективность развертывания моделей и поддерживающей инфраструктуры.
- Строить системы поддержки планирования мощностей, распределения ресурсов и использования инфраструктуры.
- Взаимодействовать с исследовательскими, инфраструктурными и продуктовыми командами для выявления общих задач и создания переиспользуемых платформенных возможностей.
- Определять техническое направление платформы управления моделями по мере развития ChatGPT и его систем.
Требования
- Пять и более лет опыта разработки программного обеспечения для производственной инфраструктуры.
- Сильные навыки программирования на Go, Python, C++, Rust или аналогичном языке.
- Опыт проектирования или эксплуатации высокодоступных распределенных систем.
- Опыт в платформенной инженерии, инфраструктурной инженерии, производственной инженерии, site reliability engineering или аналогичных дисциплинах.
- Сильные навыки системного проектирования, отладки и решения операционных проблем.
- Отличные коммуникативные навыки и опыт совместной работы с инженерными командами.
Желательные качества
- Опыт создания или эксплуатации внутренних платформ, распределенных систем или крупномасштабной производственной инфраструктуры.
- Умение превращать сложные операционные проблемы в надежное программное обеспечение и переиспользуемые абстракции.
- Опыт работы с системами развертывания, оркестрации, управления конфигурацией или автоматизации инфраструктуры.
- Понимание производственной надежности, наблюдаемости, планирования мощностей и реагирования на инциденты.
- Внимание к опыту разработчиков и созданию инструментов, повышающих эффективность других инженерных команд.
- Готовность работать на стыке организационных границ и брать на себя ответственность от проектирования системы до эксплуатации в продакшене.
- Умение работать в быстро меняющейся среде со значительной технической неопределенностью.
- Интерес к обслуживанию моделей или ML-инфраструктуре; специализированный опыт работы с GPU или низкоуровневым оборудованием не обязателен.
О компании
OpenAI — исследовательская и внедренческая компания в области ИИ, стремящаяся к тому, чтобы искусственный интеллект общего назначения принес пользу всему человечеству. Компания расширяет границы возможностей систем ИИ и стремится безопасно внедрять их через свои продукты.
