LLMOps-инженер (Large Language Models Operations Engineer)
Локация: удаленно Длительность: 11–12 месяцев Оплата: по договоренности
Основные обязанности:
- Обеспечение операционной поддержки больших языковых моделей (LLM): управление инцидентами, сопровождение и обслуживание моделей, поддержка пользователей.
- Мониторинг и сопровождение GenAI-решений: контроль производительности, взаимодействия с пользователями и эффективности.
- Внедрение и соблюдение LLMOPS-ограничений (guardrails), следование лучшим практикам и стандартам реализации.
- Проведение аудитов на предвзятость и других проверок соответствия для внедренных GenAI-решений.
- Поддержка управления кодом, включая проактивную оптимизацию кода помимо базовых исправлений.
Ключевые навыки:
- Опыт разработки, развертывания и управления большими языковыми моделями, особенно на Microsoft Azure.
- Экспертиза в облачных платформах и сервисах Azure: Azure Machine Learning, Azure Kubernetes Service, Azure DevOps.
- Понимание практик внедрения LLMOPS-ограничений.
- Владение Python для написания скриптов и автоматизации.
- Отличные коммуникационные навыки, способность объяснять сложные технические концепции нетехническим заинтересованным сторонам.
Дополнительные требования:
- Опыт работы с Terraform для развертывания и управления инфраструктурой обязателен.
- Знакомство с CI/CD-пайплайнами и системами контроля версий.
- Способность работать самостоятельно и в составе удаленной команды, проявляя инициативу и навыки решения проблем.
