Staff Software Engineer — AI-платформа, Kubernetes

Cloudera ищет Staff Software Engineer в команду Anywhere Cloud для руководства архитектурой и поставкой облачной AI-платформы. Роль предполагает работу на стыке передовых AI-исследований и production-окружений Kubernetes.

Задачи:

• Проектировать и реализовывать масштабируемые сервисы приложений (Go/Node.js), оборачивающие AI-возможности для корпоративного использования.
• Руководить развёртыванием серверов инференса (vLLM, Triton) с использованием KServe, KubeRay или Knative для serverless-масштабирования AI-нагрузок.
• Создавать внутренние инструменты, SDK и AI-шлюзы для упрощения интеграции фундаментальных моделей (Llama, GPT) в продуктовые фичи.
• Проектировать пайплайны Retrieval-Augmented Generation (RAG) и сервисы управления промптами, интегрируемые с векторными базами данных и корпоративными источниками данных.
• Взаимодействовать с UI-инженерами, UX-дизайнерами и продакт-менеджментом для обеспечения удобства AI-платформы для внутренних разработчиков.
• Обеспечивать безопасность, мультитенантность и оптимизацию планирования GPU-ресурсов (MIG, fractional GPUs) в Kubernetes.

Требования:

• Степень бакалавра и 6+ лет опыта в разработке ПО (или эквивалентный опыт с магистратурой/PhD), из них минимум 2+ года в области AI/ML-систем.
• Экспертный уровень Python (для AI-экосистемы) и сильная компетенция в системном языке, таком как Go или Rust/C++ (для высокопроизводительных слоёв обслуживания).
• Глубокое понимание проблем развёртывания LLM и рантаймов (vLLM, ONNX, TorchServe, Triton).
• Знание техник квантизации (AWQ, GPTQ) для оптимизации размера и скорости моделей.
• Опыт построения сложных workflow с помощью LangChain или LlamaIndex и их развёртывания в контейнеризованной инфраструктуре (Docker/Kubernetes).
• Способность ориентироваться в быстро меняющемся AI-ландшафте, отделяя хайп от практических инженерных решений, и обеспечивать техническое согласование между командами.

Будет плюсом:

• Опыт эффективного дообучения моделей (PEFT, LoRA/QLoRA) на кастомных датасетах.
• Знакомство с программированием на CUDA или профилированием производительности GPU (Nsight systems).
• Вклад в open-source AI-проекты (HuggingFace transformers, vLLM и др.).

Условия:

• Работа в команде Anywhere Cloud, гибридная архитектура на базе Kubernetes с разделением вычислений и хранения.
• Позиция не предполагает иммиграционной поддержки.