AI-инженер LLM/RAG

Salvo Software — международная технологическая компания, специализирующаяся на разработке заказного ПО и инженерных решениях. Команды распределены по США, LATAM и Индии. Компания развивает AI-направление и ищет практикующего AI-разработчика.

Задачи

• Обслуживание и эксплуатация open-source LLM с помощью Ollama и llama.cpp локально и в on-prem средах.
• Построение и поддержка RAG-пайплайнов: эмбеддинги, векторные базы данных, стратегии чанкинга, качество поиска.
• Разработка интеграций MCP (Model Context Protocol) для подключения LLM к внутренним инструментам и источникам данных.
• Создание бэкенд-сервисов на Python для ML-инференса и AI-функций продукта.
• Парсинг и обработка структурированных и полуструктурированных данных (XML/XSD, форматы офисных документов) как входных данных пайплайнов.
• Постепенное освоение оптимизации моделей: квантизация (GGUF), настройка GPU/CUDA, офлайн/air-gapped развёртывания.
• Поддержка CI/CD пайплайнов для AI-сервисов (предпочтительно Azure DevOps; также GitHub Actions / GitLab CI).
• Развёртывание AI-нагрузок в Microsoft Azure, AWS и контейнеризация сервисов с Docker.
• Автоматизация операционных задач скриптами на Python, Bash и/или PowerShell.
• Диагностика проблем по всему стеку с поиском корневых причин.
• Поддержка событийно-ориентированных архитектур с Apache Kafka (продюсеры/консьюмеры).

Требования

• 3–5+ лет инженерного опыта с production-level Python для создания реальных сервисов, LLM-инференса, RAG-пайплайнов и автоматизированных инструментов.
• Практический опыт интеграции LLM и AI: обслуживание моделей через Ollama/llama.cpp, реализация векторного поиска/RAG, разработка MCP-интеграций. Настройка GPU/CUDA и квантизация моделей — плюс.
• Экспертиза в облаке и инфраструктуре: развёртывание в Azure/AWS, контейнеризация Docker, администрирование Linux/Windows, автоматизация CI/CD (Azure DevOps, GitHub Actions или GitLab CI). Terraform, Kubernetes, Kafka или системные языки (Go, Rust, C++) — плюс.
• Понимание DevOps, безопасности и операций: Git-воркфлоу, скрипты (Python, Bash, PowerShell), инструменты наблюдаемости (Prometheus/Grafana), DevSecOps, фреймворки комплаенса (SOC 2, ISO 27001, Zero Trust).
• Сильные навыки решения проблем и коммуникации, mindset поиска корневых причин, самостоятельное обучение, ответственность, эффективная работа в распределённой команде.

Условия

• Удалённый формат работы.
• Зарплата по договорённости.