MLOps / DevOps инженер (LLM, GPU)
ПравоТех — продуктовая IT-компания, с 2008 года разрабатывающая решения для автоматизации юридических процессов. Развивается платформа ПравоАгент — AI-агенты для юридических задач, работающие с документами, законодательством и судебной практикой с помощью RAG.
В продуктовую команду ПравоАгента ищут MLOps / DevOps Engineer (LLM, GPU) — инженера, который будет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и связывать разработчиков продукта с командой Platform Engineering.
Задачи
- Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab.
- Запускать и поддерживать на GPU модели для работы и поиска по документам (OCR, эмбеддинги, реранкеры): настраивать их под нагрузку, следить за скоростью и стабильностью индексации и поиска.
- Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами.
- Развивать инфраструктуру для запуска языковых моделей на собственных GPU.
- Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию.
- Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов.
Требования
- Опыт работы в DevOps / MLOps от 4 лет, из них не менее 1 года коммерческого опыта в LLMOps.
- Понимание принципов работы LLM, RAG и инфраструктуры AI-сервисов.
- Практический опыт с Kubernetes, Helm и CI/CD.
- Уверенные знания Linux и сетевых технологий.
- Опыт работы с API языковых моделей.
- Самостоятельность, инициативность и умение взаимодействовать с разными техническими командами.
Будет плюсом:
- Опыт развёртывания LLM на собственных GPU с использованием vLLM или аналогичных решений.
- Опыт работы с Terraform, облачной инфраструктурой и мониторингом.
- Опыт с векторным и полнотекстовым поиском (Qdrant, PostgreSQL).
- Опыт развёртывания продуктов в закрытых контурах заказчиков.
- Понимание требований информационной безопасности корпоративных заказчиков.
Условия
- Работа над AI-платформой с реальными production-задачами и возможностью влиять на технические решения.
- Продуктовая команда, участие в развитии инфраструктуры с ранних этапов.
- Удалённый формат работы с ориентиром на московское время или работа в офисе.
- Официальное трудоустройство и полностью белая заработная плата.
- ДМС со стоматологией.
- Дополнительные корпоративные бонусы на выбор: компенсация питания, занятий спортом или изучения иностранных языков.
- Доступ к сервису психологической поддержки и коучинга.
- Необходимая техника для комфортной работы.
Занятость полная, график 5/2, рабочие часы 8. Опыт работы: 3–6 лет.