DevOps / LLMOps-инженер (AI-платформа)

ПравоТех — продуктовая IT-компания, с 2008 года разрабатывающая решения для автоматизации юридических процессов. Развивается платформа AI-агентов ПравоАгент для решения юридических задач: агенты работают с документами, находят информацию в законодательстве и судебной практике с помощью RAG и помогают готовить юридические документы.

В продуктовую команду ПравоАгента требуется DevOps / LLMOps Engineer. Инженер будет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и выступать связующим звеном между разработчиками продукта и командой Platform Engineering.

Задачи:

• Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab.
• Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их работу под нагрузкой.
• Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска.
• Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами.
• Развивать инфраструктуру для запуска языковых моделей на собственных GPU.
• Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию.
• Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов.

Требования:

• Опыт работы в DevOps / MLOps / LLMOps от 2 лет.
• Коммерческий опыт работы с LLMOps от 1 года, включая развёртывание ML/LLM-моделей на GPU.
• Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов.
• Практический опыт с Kubernetes, Helm и CI/CD.
• Уверенные знания Linux и сетевых технологий.
• Опыт работы с API языковых моделей.
• Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами.

Будет плюсом:

• Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений.
• Опыт работы с Terraform, облачной инфраструктурой и мониторингом.
• Знакомство с Qdrant, PostgreSQL и поисковыми системами.
• Опыт развёртывания продуктов в закрытых контурах заказчиков.
• Понимание требований информационной безопасности корпоративных заказчиков.

Условия:

• Работа над AI-платформой с реальными production-задачами и возможностью влиять на технические решения.
• Продуктовая команда, в которой можно участвовать в развитии инфраструктуры с ранних этапов.
• Удалённый формат работы с ориентиром на московское время или работа в офисе.
• Официальное трудоустройство и полностью белая заработная плата.
• ДМС со стоматологией.
• Дополнительные корпоративные бонусы на выбор: компенсация питания, занятий спортом или изучения иностранных языков.
• Доступ к сервису психологической поддержки и коучинга.
• Необходимая техника для комфортной работы.

Опыт работы: 3–6 лет. Занятость: полная. График: 5/2, 8 рабочих часов в день.