Senior MLOps-инженер, ML-инфраструктура

Компания: UZUM TECHNOLOGIES. IT

Формат работы: удалённо. Занятость: полная, график 5/2, рабочие часы: 8. Опыт работы: 3–6 лет.

Чем предстоит заниматься:

• Проектировать и развивать ML-контур: инференс, автоматизацию переобучения, доставку моделей в продукт, мониторинг.
• Отвечать за то, чтобы контур всегда работал и быстро обслуживал нагрузку: high availability, балансировка, масштабирование в кластере.
• Продуктивизировать ML-решения: конвертировать и оптимизировать модели под разные рантаймы, деплоить на Triton Inference Server.
• Строить замкнутый цикл: потоки данных, переобучение, валидация, непрерывная поставка модели в прод.
• Контейнеризировать решения и доставлять их в контур, оптимизировать сборки.
• Строить CI/CD с ML-нагрузкой, автоматизировать тестирование, развивать тестовый контур.
• Готовить инфраструктуру для A/B-экспериментов.
• Выстраивать observability: метрики, логи, трейсинг запросов.
• Разворачивать модели на собственных серверах.
• Проектировать интерфейсы и контракты между системами, автоматизировать ML-процессы.

Для нас важно:

• От 4 лет коммерческого опыта в разработке, MLOps или ML engineering, включая реальный опыт вывода ML-моделей в прод.
• Python: чистый объектно-ориентированный код, проектирование абстракций и интерфейсов, тестируемость. Или сильные навыки system design с умением чётко определять взаимодействие систем.
• Опыт работы с Triton Inference Server и конвертации моделей под разные рантаймы (ONNX, TensorRT).
• Знание Docker: оптимизация итоговой сборки, GPU-образы, безопасность контейнеров.
• Опыт работы с облачной GPU-инфраструктурой.
• Свободное владение Linux.
• REST API на Flask или FastAPI, опыт построения микросервисной архитектуры.
• Понимание конкурентного исполнения кода, опыт обеспечения HA и распределения нагрузки.
• Понимание метрик качества ML-моделей, базовые знания теории вероятностей и матстатистики.
• Знание информационной безопасности и современных сценариев атак.
• Уверенная работа с git.
• Повседневная работа с AI-агентами (Claude Code, Codex и аналоги).
• Высшее образование в Computer Science или смежной области, магистратура.

Будет плюсом:

• ClearML или аналогичные MLOps-платформы.
• Опыт с KV-хранилищами, векторными БД, NoSQL и очередями сообщений.
• Опыт on-prem деплоя LLM (vLLM, SGLang, TensorRT-LLM).