Senior AI-инженер по информационной безопасности

О роли

Tenable ищет Senior AI-инженера по безопасности в команду информационной безопасности. Роль предполагает формирование и развитие подхода к защите ИИ как в продуктах Tenable, так и в масштабах предприятия. ИИ создаёт новый класс рисков на стыке безопасности приложений, облачных рисков и управления данными. Нужно применять практический опыт AI-инжиниринга вместе с глубокими навыками продуктовой и прикладной безопасности: проектировать средства защиты AI-систем, проводить оценки и помогать инженерным командам безопасно выпускать AI-функции. Также нужно устанавливать стандарты безопасности для ответственного использования ИИ, влиять на решения в организации и создавать инструменты, повышающие уровень безопасности.

Задачи

• Проектировать, внедрять и поддерживать сквозные средства защиты на протяжении жизненного цикла AI/ML.
• Проводить исследования безопасности, включая инспекцию внутреннего устройства моделей (например, выявление скрытого обмана, латентных знаний или нежелательных концепций на разных слоях) как основную методологию.
• Проводить оценки безопасности ИИ и моделирование угроз для AI/ML-систем, выявлять риски: отравление данных, обход модели, извлечение модели, состязательные входы и атаки на целостность.
• Проектировать и внедрять надёжные защитные ограничители, контроли и механизмы границ для больших языковых моделей (LLM), малых языковых моделей (SLM) и моделей с открытым исходным кодом.
• Выступать экспертом по исследованиям безопасности ИИ, инспектируя внутреннее устройство моделей для выявления скрытого обмана, латентных знаний или нежелательных концепций и обеспечивая прозрачность и согласованность выходов ИИ.
• Непрерывно отслеживать новые уязвимости и техники атак в сфере ИИ, применяя глубокий инженерный опыт для проактивной защиты корпоративных AI-развертываний.
• Разрабатывать эталонные архитектуры безопасности для паттернов развертывания ИИ, включая MCP-серверы, агентные AI-воркфлоу и харнессы.
• Внедрять контроли для обеспечения целостности моделей, управления и надлежащего контроля доступа к моделям и хранилищам признаков.
• Создавать инструменты на основе ИИ для усиления кибербезопасности в областях управления идентификацией, управления инцидентами, управления уязвимостями, рисков третьих сторон и новых AI-угроз.
• Сотрудничать с разработчиками и продуктовыми командами для интеграции лучших практик безопасности в разработку, обучение, валидацию и развертывание ИИ.
• Продвигать практики безопасного жизненного цикла разработки ПО (SSDLC) и DevSecOps для продуктов на основе ИИ, включая моделирование угроз, тестирование безопасности, пентесты и автоматизацию безопасности CI/CD-пайплайнов.
• Создавать руководства по безопасности, документацию и обучение для внутренних инженерных команд и команд разработки; разрабатывать метрики, которые стимулируют нужные модели поведения и результаты в области безопасности.
• Исследовать новые тенденции в безопасности ИИ и вносить вклад в инновационные решения для AI-инициатив Tenable.

Требования

• 5 и более лет профессионального опыта в информационной безопасности или безопасности приложений, из них минимум 1–2 года с фокусом на защите AI/ML-систем.
• Магистерская степень в области Computer Science, Cybersecurity, Data Science или смежной области предпочтительна; более высокая степень предпочтительна.
• Глубокое понимание угроз безопасности, специфичных для ИИ, включая состязательный ML, отравление данных, инъекцию промптов, инверсию модели, обход модели и атаки на вывод.
• Сильный опыт программирования на Python и/или Go.

Условия

• Кандидаты должны иметь право работать в США у любого работодателя без спонсорства. Tenable не может предоставлять спонсорство рабочих виз любого типа при найме или в любой момент трудоустройства, включая F1-OPT, F1-CPT, H-1B, TN, J-1 и т.п.