MLOps (банк)

Публикатор: Nelly #вакансия #MLOps #DevOps #Python #LLM #AI #MachineLearning #Kubernetes #Docker #CI_CD #PostgreSQL

Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей. Наши ИИ-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков.

Компания: Selecty Позиция: MLOps (банк) Уровень дохода: 250-340 к гросс Формат: оформление по ТК РФ Удаленка РФ

чем предстоит заниматься:

Ты станешь ключевым инженером, который превращает исследовательские прототипы в отказоустойчивую GenOps-фабрику цифровых агентов.

Твои задачи: DevOps для AI: Проектирование и развитие самообслуживания CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем.

Инференс под управление: Развертывание и оптимизация LLM/VLM в процессе разработки (оптимизация памяти, формирование скорости) с использованием vLLM, Triton Inference Server, SGLang.

Надёжность: Обеспечение высокой доступности сервисов, работа с масштабированием горизонтальных подов и управление состоянием агентов.

Мониторинг 360°: Внедрение комплексного наблюдения: от стандартных метрик (CPU/GPU, задержка) до конкретных ML-метрик (качество генерации, дрейф данных, оценка тональности ответов).

Обязательные требования

Опыт вывода LLM-решений в прод.

• Уверенное владение Python и асинхронным программированием (asyncio).
• Уверенное владение Kubernetes (Helm, управление кластерами).
• Знание Gitlab CI, Jenkins и пр
• Понимание архитектуры RAG-систем, работы embedding-моделей и ранжирования.
• Умение оптимизировать инференс: квантизация, continuous batching, PagedAttention.
• Будет плюсом: опыт с графовыми БД и построением мультиагентных систем

Технологический стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres Опыт работы с векторными и графическими БД.

Условия

Оформление по ТК РФв в IT-аккредитованную компанию ДМС (включая стоматологию) Компенсация фитнеса Скидки на обучение английскому (Skyeng) Индексация заработной платы Современная техника IT-аккредитация компании