Engineering Manager, AI-безопасность и защита моделей

В команду Preparedness Engineering компании OpenAI ищут engineering manager. Команда отвечает за создание и эксплуатацию защитных механизмов для рисков передовых моделей, чтобы безопасно обеспечивать расширенные возможности, обнаруживая и ограничивая вред.

Задачи

• Руководить командой software-инженеров, создающих системы обнаружения и предотвращения вредоносного использования передовых AI-моделей до возникновения инцидентов.
• Вести инженеров, выпускающих production-сервисы, пайплайны обнаружения и механизмы митигации, которые защищают целостность передовых моделей и снижают риск серьёзного злоупотребления.
• Формировать технический роадмап и стратегию исполнения: приоритизировать, проектировать, выпускать, итерировать, измерять эффект.
• Строить production-системы: сервисы, пайплайны, инструменты, инструментацию и автоматизацию, масштабируемые вместе с использованием передовых моделей.
• Тесно сотрудничать с Research и Product, чтобы переводить развивающиеся возможности моделей в конкретные тесты, сигналы и митигации, развёртываемые в масштабе.
• Обеспечивать сильные инженерные основы: архитектуру, надёжность, мониторинг, производительность и операционное совершенство.
• Нанимать и развивать команду в областях backend, data systems и applied ML engineering по мере необходимости.
• Предвидеть, что ломается в масштабе по мере роста возможностей агентных workflow.

Требования

• Опыт построения систем в состязательных, быстро меняющихся средах.
• Комфорт в средах с высоким контекстом.
• Комфорт с неопределённостью и новизной.
• Умение ясно коммуницировать и быстро строить доверие с senior-стейкхолдерами: прагматичность, коллаборативность, спокойствие под scrutiny.
• Значительный опыт руководства инженерными командами и сквозной поставки production-систем.
• Сильное техническое суждение в проектировании систем, распределённых системах, data pipelines, observability и операционной надёжности.
• Подтверждённая способность кросс-функционально сотрудничать с Research/Product/Security для выпуска систем, существенно снижающих риск или злоупотребления в масштабе.
• Плюсом будет опыт в автономии, высокомасштабируемых real-time системах или технических доменах, смежных с intelligence.

Условия

• Роль базируется в Сан-Франциско, Калифорния.
• Гибридная модель работы: 3 дня в офисе в неделю.
• Новым сотрудникам предлагается помощь с релокацией.