Senior-инженер по безопасности, AI Security

О компании

Reddit — это сообщество сообществ. Платформа построена на общих интересах, увлечениях и доверии. Каждый день пользователи Reddit публикуют, голосуют и комментируют темы, которые им важны. В Reddit более 100 000 активных сообществ и около 130 миллионов ежедневных уникальных посетителей.

О роли

Reddit нанимает Senior Security Engineer, AI Security, чтобы помочь командам безопасно создавать и запускать AI-продукты. Роль сочетает суждение в продуктовой безопасности с практической инженерией для защиты систем, инструментов и процессов, лежащих в основе AI-усилий Reddit.

Это не роль ML-инженера, но нужно уверенно рассуждать о том, как отказывают AI-системы, как агенты используют инструменты и как контроли безопасности встраиваются в пути инференса, поиска, использования инструментов и выполнения.

Лучшие кандидаты сочетают практическое суждение в безопасности приложений с сильными инженерными навыками: умеют выявлять риски до запуска и превращать повторяющиеся находки в guardrails, сканеры, реестры, песочницы, библиотеки, проверки политик или платформенные контроли, масштабируемые за пределы одной продуктовой команды.

Задачи

• Анализировать и моделировать угрозы AI-функций, LLM-интеграций, агентных процессов, MCP-серверов, инструментов, плагинов, систем поиска, выходов моделей и внутренних AI-инструментов до запуска.
• Создавать переиспользуемые примитивы безопасности AI: guardrails, сканеры, проверки политик, контроли использования инструментов, реестры, песочницы, библиотеки и точки принудительного применения в рабочих процессах.
• Проектировать инструменты безопасности, которые могут находиться в пути инференса, поиска или выполнения для обнаружения и предотвращения prompt injection, джейлбрейков, неправильного использования инструментов, утечки данных, небезопасной генерации кода и подозрительного поведения агентов.
• Работать с командами, создающими продукты и платформы с AI, чтобы определять практичные контроли безопасности, соответствующие их процессам.
• Проактивно находить, исправлять и предотвращать проблемы AI-безопасности, делая изменения понятными и малотрудозатратными для команд-партнёров.
• Превращать разовые проблемы AI-безопасности в системные исправления, paved paths, измеримые контроли и переиспользуемые рекомендации.

Требования

• 5+ лет опыта в продуктовой безопасности, безопасности приложений, безопасности ПО, инженерии безопасности, бэкенд-инженерии или платформенной безопасности.
• Сильные основы безопасности приложений: безопасный дизайн-ревью, моделирование угроз, ревью кода, приоритизация уязвимостей и практическое устранение.
• Опыт создания надежных бэкенд-сервисов.
• Практический опыт создания автоматизации безопасности, инструментов для разработчиков, библиотек, инфраструктуры или платформенных контролей.
• Понимание рисков AI, LLM или агентных систем: prompt injection, джейлбрейки, небезопасное использование инструментов, отравление инструментов, утечка данных, небезопасные выходы моделей и злоупотребление AI-ассистированными процессами.
• Способность рассуждать о границах доверия: пользовательский ввод, контекст модели, системы поиска, бэкенд-сервисы, вызовы инструментов, MCP-серверы, сторонние интеграции, изолированное выполнение, логи и фронтенд-рендеринг.
• Практическое понимание концепций инфраструктурной безопасности: идентичность, авторизация, сетевые границы, секреты, облачные среды, контейнеры, изоляция, принудительное применение политик рантайма и наименьшие привилегии.
• Сильное инженерное суждение о том, когда блокировать запуск, когда принимать риск и как выстраивать практические исправления.
• Четкие коммуникативные навыки: умение объяснять технический риск безопасности и бизнес-влияние инженерам, продакт-менеджерам и руководству.

Предпочтительные квалификации

• Опыт обеспечения безопасности AI/LLM-продуктов, AI-ассистированных инструментов разработки, агентных фреймворков, MCP-экосистем инструментов, RAG-систем или интегрированных с моделями процессов.
• Опыт создания guardrails, политических движков, безопасных фреймворков, сканеров, линтеров, CI/CD-проверок, реестров, шлюзов или других ориентированных на разработчиков платформ безопасности.
• Знакомство с песочницами для агентов, workload identity, сетевой политикой, разрешениями инструментов, AI red teaming или оценкой LLM.
• Опыт сканирования или управления компонентами AI-агентов: навыки, промпты, MCP-серверы, манифесты инструментов, сгенерированный код, зависимости или связанные с моделями процессы.
• Знакомство с системами машинного обучения, оценкой моделей, потоками данных AI или управлением данными для AI-продуктов.
• Опыт с Go, Python, JavaScript или TypeScript.