Лента Опубликована 12 дней назад · отклик: Сайт вакансий
DevOps-инженер по безопасности ИИ
ЗарплатаПо договорённости
ФорматУдалённо
ЛокацияМосква, Россия
ЗанятостьПолная занятость
В Дирекции ИТ центрального офиса федеральной розничной сети открыта вакансия DevOps-инженера по безопасности ИИ. Роль на стыке AI Security и платформенной инженерии.
Задачи
- Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы.
- Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.).
- Развёртывание новых моделей: быстрый деплой и обязательная проверка ИБ.
- Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги).
- Снятие метрик: latency, обрывы, TTFT.
- Разделение разработки: супер-критичная — только локально, остальное — в облаке.
Шлюзы доступа к внешним моделям:
- Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корпоративного счёта.
- Работа через OpenRouter, подключение новых моделей за 15 минут.
- Внутренний шлюз в контуре (LiteLLM).
- Закрытие несанкционированных точек подключения к агрегаторам.
- Биллинг, квотирование, управление ключами, мультитенантность.
ИБ-слой и AI Firewall:
- Внедрение AI firewall, PII-маскирование и демаскирование.
- Детектирование КТ, гварды, работа с перечнем угроз.
- Плотное взаимодействие с ИБ.
Требования
- Опыт построения безопасного инференса LLM (локально и в облаке).
- Понимание AI Security: PII, guardrails, prompt injection, data leakage, КТ.
- Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам.
- Опыт с AI firewall и системами маскирования/демаскирования.
- Работа с локальными харнессами (opencode, qwencode, Claude Code, Codex) и sandbox.
- Observability: LangFuse, Prometheus, Grafana.
- Понимание MCP, MCP registry, интеграций с k8s, Jira, Confluence, GitLab, Exchange.
- Опыт с RAG, Vector DB, hybrid search, LangChain / LangGraph / Mastra.
- Взаимодействие с ИБ: согласование доступов, заявок, групп пользователей.
- Понимание мультитенантности, квотирования, управления ключами.
Будет плюсом:
- Опыт с OpenWebUI, ботами в корпоративных мессенджерах.
- Знание SAP-интеграций через MCP.
- Опыт построения изолированных контуров и «карантина» для внешней разработки.
- Понимание бенчмарков моделей и выбора моделей под задачи.
- Опыт с Whisper, GigaAM и другими малыми моделями.
- Понимание TTFT, latency, обрывов, работы без SLA на старте.
Условия
- Участие в масштабных проектах по кибербезопасности в федеральной компании.
- Конкурентная заработная плата и социальный пакет.
- Оформление в аккредитованную ИТ-компанию.
- Профессиональное развитие и обучение за счёт работодателя.
- Удалённый/гибридный формат работы.
- Команда профессионалов и культура, ориентированная на безопасность.
- Годовое премирование по результатам работы.
- Возможность строить безопасный ИИ-контур с нуля.
- Работа с современными моделями, харнессами, MCP и агентскими фреймворками.
- Прямое взаимодействие с ИБ и влияние на стандарты.
- Пространство для закрытия «не проработанных» тем.
Опыт работы: 3–6 лет. Занятость: полная. График: 5/2. Рабочие часы: 8.
Инструменты в вакансии
Навыки и технологии
Направления