Ак Барс Банк, ИТ Опубликована 5 дней назад · отклик: Сайт вакансий
AI-инженер по LLM и RAG
ЗарплатаПо договорённости
ФорматОфис
ЛокацияКазань, Россия
ЗанятостьПолная занятость
Вакансия в дочернюю аккредитованную IT-компанию Ак Барс Банка. Компания предоставляет профессиональные услуги в области информационной защиты.
Чем предстоит заниматься:
- развертывание и обслуживание локальных языковых моделей (Llama, Qwen, DeepSeek) через движки vLLM, Ollama и аналогичные;
- сборка полного цикла RAG: от извлечения текста из PDF/Word до настройки векторного поиска и ре-ранжирования;
- оптимизация моделей (квантование, выбор архитектуры) под имеющиеся ресурсы GPU;
- интеграция AI-моделей во внутренние сервисы через API и создание агентов для автоматизации задач;
- контроль качества генерации и мониторинг стабильности работы системы.
Что нужно уметь:
- опыт работы AI/ML/системным инженером, backend-разработчиком AI-сервисов от 2-3 лет;
- опыт локального развертывания SOTA-моделей (Llama, Qwen, DeepSeek) с использованием vLLM, Ollama, TGI и аналогичных;
- умение создавать полноценные пайплайны поиска и генерации: от парсинга документов и выбора стратегии чанкинга до работы с векторными БД;
- свободное владение Python и опыт создания API для интеграции моделей в сервисы;
- опыт работы с Linux (Bash) и Docker, настройка драйверов NVIDIA, CUDA;
- знание методов квантования и умение рассчитывать потребность в VRAM/RAM под конкретные модели и длину контекста;
- практический опыт работы с LangChain/LlamaIndex и другими;
- умение фильтровать запросы, чтобы избежать утечки коммерческой тайны или ПДн через модель;
- умение самостоятельно рассчитать потребности в железе (VRAM/CPU) под требуемые или новые модели.
Что нужно знать: Python, Docker, Linux (Bash), LangChain, LlamaIndex, Hugging Face Transformers, векторные БД (Qdrant, Milvus, PGVector) и классические СУБД (PostgreSQL).
Будет плюсом:
- опыт работы с метриками качества.
Что мы предлагаем:
- работу в группе компаний холдинга, стабильность, развитую корпоративную культуру;
- уровень заработной платы обсуждается с успешным кандидатом;
- обучения по программе повышения квалификации за счет работодателя;
- ДМС, материальные выплаты;
- необходимую для работы технику;
- официальное трудоустройство по ТК РФ;
- график работы 5/2 с 8:30 до 17:30;
- работу в комфортном офисе в центре города, рядом метро и удобная транспортная развязка.
Инструменты в вакансии
Навыки и технологии
Направления