Data Scientist, Integrity — ML и аналитика
Команда Integrity в OpenAI защищает людей и бизнесы, использующих ChatGPT, Codex и API, от мошенничества, злоупотреблений и вредоносного использования. Работа охватывает платёжные и промо-злоупотребления, скомпрометированные аккаунты и API-ключи, целостность бизнеса и рекламодателей, а также новые виды злоупотреблений возможностями передовых ИИ. Команда также помогает продуктовым командам измерять подлинное использование, чтобы злоупотребления не искажали решения о росте продуктов.
Data Science в Integrity помогает командам решать, где вмешиваться и работают ли эти вмешательства. Например, платёжный контроль может предотвращать мошенничество, но блокировать легитимные покупки; запуск продукта может упрощать старт для клиентов, но создавать новые возможности для злоупотреблений. Команда измеряет обе стороны таких решений.
Задачи:
- Находить новые паттерны злоупотреблений, оценивать их масштаб и вести аналитическую работу, лежащую в основе решений о детекции, применении правил и запусках продуктов.
- Работать с Product, Engineering, Research, Policy и Operations, превращая находки в улучшения и измеряя результаты после их внедрения.
- Исследовать аномальную активность across products: оценивать распространённость проблемы, кого она затрагивает и какие издержки несёт пользователям или бизнесу; на основе этих данных рекомендовать приоритеты.
- Определять метрики результатов и guardrails, устанавливать базовые уровни и строить мониторинг, выявляющий изменения в злоупотреблениях, трении для клиентов и операционной эффективности.
- Помогать строить и оценивать правила детекции, классификаторы и процессы ручной проверки; использовать размеченные выборки и результаты проверок, чтобы понимать, что системы пропускают, где они отмечают легитимную активность и как эти ошибки различаются по пользователям и продуктам.
- Проектировать рандомизированные holdout-исследования и применять квазиэкспериментальные или наблюдательные методы, когда рандомизация нецелесообразна; оценивать предотвращённый ущерб или потери от мошенничества наряду с влиянием на легитимных пользователей, выручку, затраты на вычисления и нагрузку на проверки; рекомендовать запуск, расширение, корректировку или отмену контроля.
- Отслеживать, где ломаются сигналы, решения по проверкам или меры принуждения; работать с партнёрами над закрытием пробелов и создавать переиспользуемые наборы данных, анализы и инструменты для расследований.
Требования:
- Использовать ИИ-инструменты для исследования больших и неструктурированных наборов данных, быстрой проверки гипотез и автоматизации повторяющихся анализов.
- Свободно владеть SQL и Python и уметь проверять сгенерированные ИИ запросы, код и выводы по исходным данным.
- Иметь сильное статистическое мышление и опыт экспериментов, причинно-следственного вывода или наблюдательного анализа.
- Уметь рассуждать на основе неполных или смещённых меток и объяснять, как неопределённость влияет на решение.
- Брать на себя ответственность за открытые задачи: от выбора метрик до рекомендации действия и проверки его результата.
- Ясно коммуницировать с техническими и нетехническими партнёрами и объяснять компромиссы, стоящие за рекомендацией.
Будет плюсом:
- Опыт в integrity, trust and safety, аналитике мошенничества или рисков, аналитике безопасности или прикладной оценке ML.
- Опыт оценки систем детекции, ручной проверки или классификаторов на основе LLM.
Условия:
- Локация: San Francisco.