Ведущий инженер по безопасности AI/LLM-систем
ЗарплатаПо договорённости
ФорматГибрид
ЛокацияМосква, Россия
ГрейдLead
ЗанятостьПолная занятость
Ozon Tech ищет инженера в команду безопасности платформы для работы над безопасностью систем на базе искусственного интеллекта. В компании растёт число ML- и LLM-сервисов: инференс, RAG-пайплайны, ассистенты, агенты с доступом к внутренним инструментам.
Условия
- Опыт работы: 3–6 лет.
- Занятость: полная.
- График: 5/2, 8 рабочих часов в день.
- Формат работы: на месте работодателя, удалённо или гибрид.
- Локация: Москва.
- Зарплата: по договорённости.
Задачи
- Проводить аудиты безопасности ML/LLM-систем: инференс-сервисы, RAG-пайплайны, агенты с доступом к инструментам, MCP-серверы, ML-платформа и её артефакты (модели, датасеты, фичестор).
- Тестировать системы на базе ИИ на устойчивость к атакам: прямой и косвенный prompt injection, джейлбрейки, эксфильтрация системных промптов и данных, злоупотребление tool calling, выход агента за границы разрешённого, отравление данных и моделей, атаки на цепочку поставки (веса, pickle, кастомные операторы, сторонние модели).
- Развивать DAST под AI-эндпоинты: харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак, регрессионное тестирование моделей и защитных механизмов, встраивание проверок в CI/CD.
- Проверять эффективность защитных механизмов (гарды входа и выхода, фильтры, лимиты, изоляция инструментов и данных) и формировать обоснованные требования к ним.
- Формировать стандарты безопасной разработки AI-сервисов: модели угроз, чек-листы ревью, требования к правам агентов, работе с секретами и изоляции окружений.
- Разрабатывать автоматизацию и инструментарий на Python или Go, интегрировать его с существующими системами (ASOC, Jira, CI/CD, SIEM).
- Участвовать (около 20% времени) в проектах команды по безопасности приложений.
- Работать в тесном контакте с командами ML-платформы, разработки и инфраструктурной безопасности.
Требования
- Практический опыт наступательной безопасности: пентесты, аудиты приложений, bug bounty.
- Практическое понимание LLM/AI: как устроены инференс, RAG, агентные архитектуры и tool calling, опыт работы с API моделей и промпт-инжинирингом.
- Понимание специфических рисков AI-систем и актуальных классов атак на них.
- Уверенное знание классических уязвимостей веб-приложений и API.
- Базовое инженерное понимание операционных систем, сетей, контейнеров и Kubernetes.
- Опыт проектирования архитектуры новых процессов и сервисов, умение самостоятельно принимать и обосновывать технические решения.
- Самостоятельность и готовность заходить в область, где ещё нет устоявшихся методологий, и создавать их.
Будет плюсом
- Публичные исследования, CVE, доклады, участие в AI red teaming или в программах bug bounty по LLM.
- Знакомство с garak, PyRIT, promptfoo и аналогичными инструментами.
- Опыт работы с инференс-стеком (Triton, vLLM, TGI), MLflow/Kubeflow, реестрами моделей.
- Знакомство с MCP и фреймворками агентных систем (LangGraph, LangChain, CrewAI, аналоги).
- Опыт разработки гардов и фильтров для LLM-трафика.
Инструменты в вакансии
Навыки и технологии
Направления