LLM-инженер (LLM Engineer, AI-инженер, инженер по внедрению ИИ) — разработчик, который встраивает большие языковые модели в продукты и процессы компании: строит системы поиска по базе знаний с генерацией ответа (RAG), дообучает открытые модели под задачу (fine-tuning), разворачивает их на своих серверах, интегрирует с корпоративными системами и измеряет качество ответов. Основной стек — Python, API моделей (GigaChat, YandexGPT, OpenAI, Qwen, Llama), векторные базы, LangChain или LlamaIndex, PyTorch, Hugging Face, vLLM и Docker. В России в 2026 году LLM-инженерам уровня Middle и Senior предлагают ориентировочно 200–450 тыс. ₽ в месяц.
Кто такой LLM-инженер
Большая языковая модель (LLM, Large Language Model) из коробки знает многое, но не знает ваших договоров, регламентов, каталога и клиентов, ошибается в узкой терминологии и иногда выдумывает факты. Задача LLM-инженера — превратить модель в надёжную часть продукта: дать ей доступ к нужным данным, научить нужному формату и стилю, ограничить ошибки, уложиться в бюджет и время ответа.
Профессия сформировалась на стыке ML-инженерии и бэкенд-разработки. Часть LLM-инженеров ближе к ML: они дообучают модели, готовят датасеты и оптимизируют инференс на GPU. Другая часть ближе к разработке: строит RAG, интеграции и сервисы вокруг готовых моделей. Инженер по внедрению ИИ — вариант роли, который отвечает за перенос LLM-решений в бизнес-процессы компании: документооборот, поддержку, продажи, юридический отдел.
Чем LLM-инженер отличается от смежных ролей
| Роль | Фокус | Где подробнее |
|---|---|---|
| LLM-инженер | Качество и надёжность LLM-решения: RAG, дообучение, развёртывание, оценка, интеграции | Эта статья |
| Разработчик ИИ-агентов | Логика агента: планирование шагов, вызов инструментов, память, мультиагентные системы | Разработчик ИИ-агентов |
| Промпт-инженер | Инструкции для моделей, сценарии ассистентов, тестирование промптов; кода и инфраструктуры меньше | Промпт-инженер |
| ML-инженер | Модели машинного обучения в целом: табличные данные, рекомендации, CV, NLP | ML-инженер |
| MLOps-инженер | Инфраструктура для обучения и инференса, GPU, мониторинг | MLOps-инженер |
В вакансиях эти роли пересекаются: один и тот же человек может называться «LLM Engineer», «AI Engineer», «ML-инженер (LLM)», «инженер по моделям машинного обучения (RAG+LLM)», «GenAI-разработчик» или «инженер по внедрению ИИ». Определяйте роль по обязанностям.
Чем занимается LLM-инженер
RAG — поиск по знаниям с генерацией ответа
RAG (Retrieval-Augmented Generation) — схема, в которой модель перед ответом получает фрагменты из базы знаний компании. Это главный способ научить LLM работать с внутренними документами без дообучения. Задачи инженера:
- разбить документы на фрагменты (чанкинг) с учётом структуры: разделы, таблицы, сноски;
- получить эмбеддинги — числовые представления текста для поиска по смыслу — и загрузить их в векторную базу;
- настроить поиск: гибридный (по смыслу и ключевым словам), фильтры по метаданным, переранжирование (reranker);
- собрать промпт с найденными фрагментами и ссылками на источники;
- измерить качество поиска и ответа: Hit Rate, MRR, достоверность ответа относительно источников (faithfulness).
Дообучение моделей
Fine-tuning — дообучение готовой модели на своих примерах, чтобы она отвечала в нужном формате, стиле или лучше понимала узкую область. Чаще всего используют PEFT-методы (Parameter-Efficient Fine-Tuning — дообучение небольшой части параметров), например LoRA и QLoRA: они позволяют дообучить модель на одной-двух видеокартах. Для согласования ответов с предпочтениями людей применяют DPO и другие методы обучения на предпочтениях. В крупных компаниях, которые развивают собственные модели, LLM-инженеры участвуют и в предобучении, и в распределённом обучении на GPU-кластерах.
Развёртывание и интеграции
- поднимать открытые модели (Qwen, Llama, Mistral, DeepSeek) через vLLM или аналоги, квантовать их для экономии памяти;
- подключать облачные API и выбирать модель по качеству, цене и требованиям к хранению данных;
- упаковывать решение в сервис на FastAPI, контейнеризировать в Docker, настраивать мониторинг и логирование;
- интегрировать с CRM, базами знаний, системами документооборота, мессенджерами и внутренними API;
- защищать от промпт-инъекций и утечек данных, ограничивать доступ модели к информации.
Оценка качества
- собирать тестовые наборы вопросов с эталонными ответами;
- автоматизировать проверку через LLM-as-a-Judge — оценку ответов другой моделью по критериям;
- проводить A/B-тесты и следить за регрессией качества при смене модели или промпта;
- считать стоимость и задержку ответа.
Пример задачи
Ритейлер хочет, чтобы сотрудники поддержки получали ответы по 3 000 внутренних регламентов. LLM-инженер строит RAG: разбирает PDF и вики, настраивает гибридный поиск в Qdrant с переранжированием, подключает модель с ответом и ссылками на пункты регламента. На наборе из 300 реальных вопросов он сравнивает три модели по точности, цене и задержке, а затем дообучает компактную открытую модель через LoRA, чтобы ответы укладывались в шаблон поддержки. Результат — сервис в Docker с мониторингом и дашбордом качества.
Навыки и инструменты
Программирование: уверенный Python (асинхронность, проектирование API, тесты), Git, Linux, Docker; SQL для работы с данными.
ML-база: устройство трансформеров, токенизация, эмбеддинги, метрики качества, переобучение; для дообучения — PyTorch и понимание обучения на GPU.
Работа с LLM: промптинг, structured output (ответы в заданном формате, например JSON), вызов функций, ограничения контекстного окна, причины галлюцинаций.
| Задача | Инструменты |
|---|---|
| API моделей | GigaChat, YandexGPT, OpenAI, Anthropic, Gemini, OpenRouter |
| Открытые модели | Qwen, Llama, Mistral, DeepSeek; Hugging Face Transformers |
| RAG и оркестрация | LangChain, LlamaIndex, LangGraph, Haystack |
| Векторный поиск | Qdrant, Milvus, pgvector, OpenSearch, Elasticsearch |
| Дообучение | PyTorch, PEFT, TRL, Unsloth, Axolotl |
| Инференс | vLLM, TGI, Ollama, llama.cpp; квантование GGUF, AWQ |
| Оценка и наблюдаемость | Langfuse, LangSmith, Ragas, Promptfoo, MLflow |
| Сервисы и инфраструктура | FastAPI, Docker, Kubernetes, Airflow |
Российские компании часто требуют работы с моделями, которые можно развернуть в своём контуре или в российском облаке, из-за требований к персональным данным. Каталог сервисов — в разделе ИИ-инструменты.
Уровни
Отдельной грейдовой сетки для LLM-инженеров нет: компании используют сетку ML- и бэкенд-разработки, а крупные работодатели (Сбер, X5 Digital и другие) часто не указывают вилку и требуют 3–6 лет опыта. Ориентиры — по вакансиям Хабр Карьеры и hh.ru за 2026 год. Осенью 2026 года на Хабр Карьере вакансия «Data Scientist / AI Engineer (LLM, AI-агенты)» на удалёнке предлагала 200–230 тыс. ₽, Senior «AI исследователь» с LLM и LangChain — 260–300 тыс. ₽, «Lead AI/ML Engineer» — от 400 тыс. ₽. По оценке агентства Selecty, медианная зарплата Python-разработчиков уровня Middle с ИИ-навыками с начала 2025 года выросла с 279 до 393 тыс. ₽ в месяц.
| Уровень | Срок выхода на уровень | Зарплата в РФ, ₽/мес | Что ждут |
|---|---|---|---|
| Junior | 0–1 год, обычно после 1–2 лет в Python-разработке или Data Science | 100–170 тыс. (ориентировочно, джуниор-вакансий мало) | Собирает RAG по готовой схеме, пишет интеграции с API моделей, размечает и готовит тестовые наборы |
| Middle | 1–3 года | 200–320 тыс. | Самостоятельно строит RAG и сервис вокруг модели, проводит дообучение через LoRA, настраивает оценку качества |
| Senior | 3–6 лет в ML или бэкенде, из них 1,5–2+ года с LLM | 300–450 тыс. | Проектирует LLM-системы, выбирает модели и подход, отвечает за качество, стоимость и безопасность, менторит |
| Lead | 5+ лет | от 400 тыс. (ориентировочно, открытых вилок мало) | Ведёт команду и направление GenAI, определяет платформу и стратегию внедрения ИИ в компании |
Где учиться
- Онлайн-курсы. Программы по LLM и генеративному ИИ есть у онлайн-школ, а в курсах ML-инженеров появились блоки по RAG и дообучению. Подборка — в разделе курсы. Сравнивайте программы по наличию проектов с оценкой качества и развёртыванием, а не только работой с API.
- Бесплатно. Курс Hugging Face по LLM, короткие курсы DeepLearning.AI по RAG, агентам и дообучению, документация vLLM, LangChain, LlamaIndex, Qdrant.
- Статьи и сообщество. Open Data Science (ODS), технические блоги Сбера, Яндекса, Т-Банка и X5 на Хабре, разборы статей на arXiv.
Как войти в профессию
Самый частый путь — из Python-разработки, Data Science или ML. С нуля потребуется 12–18 месяцев: сначала программирование и основы ML, затем LLM-специфика. Python-разработчику хватит 4–8 месяцев практики — см. также статью про Python-разработчика.
- Освойте Python на уровне бэкенд-разработки: FastAPI, асинхронность, тесты, Docker.
- Разберитесь в устройстве трансформеров и эмбеддингов — без этого сложно отлаживать поиск и дообучение.
- Соберите RAG на реальных документах: чанкинг, гибридный поиск, переранжирование, ответ со ссылками на источники.
- Сделайте набор из 50–100 тестовых вопросов и автоматическую оценку качества; сравните 2–3 модели по точности, цене и задержке.
- Дообучите небольшую открытую модель через LoRA на своём датасете и покажите метрики до и после.
- Разверните модель через vLLM, замерьте скорость и потребление памяти до и после квантования.
- Опубликуйте проекты на GitHub с README, архитектурной схемой и цифрами качества.
Где искать вакансии
Вакансии собраны в разделах ML-инженеры и ИИ-агенты. На hh.ru, Хабр Карьере и getmatch ищите по запросам «LLM Engineer», «LLM-инженер», «AI Engineer», «ML-инженер LLM», «RAG», «GenAI», «инженер по внедрению ИИ», «NLP-инженер». Крупнейшие работодатели — банки и экосистемы с собственными моделями, ритейл, телеком, интеграторы и компании, которые продают ИИ-решения для бизнеса. Продуктовую сторону таких проектов ведёт AI Product Manager.
Как составить портфолио и резюме
Работодатель ищет подтверждение, что ваши LLM-решения работают на реальных данных и что вы умеете измерять качество. Для каждого проекта укажите:
- задачу и данные: тип документов, объём, языки;
- архитектуру: модель, поиск, дообучение, интеграции;
- метрики качества до и после ваших изменений;
- стоимость и задержку ответа и как их снижали;
- как решение развёрнуто и кто им пользуется.
Собрать резюме по шаблону можно в конструкторе резюме.
Скачать образец резюме
Образец резюме LLM-инженера в PDF можно получить за подписку на Telegram-канал VibeJobs: [ссылка на Telegram-канал]. В нём:
- структура резюме под вакансии «LLM Engineer», «AI Engineer» и «инженер по внедрению ИИ»;
- примеры описания RAG-проектов и дообучения с метриками качества, стоимостью и задержкой;
- блок стека: Python, PyTorch, Hugging Face, LangChain, Qdrant, vLLM, Docker;
- как подать переход из бэкенда или Data Science в LLM-инженерию;
- как оформить пет-проект с оценкой качества так, чтобы его открыл техлид;
- ошибки, из-за которых резюме LLM-инженера путают с резюме промпт-инженера.
Как проходит собеседование
- скрининг с рекрутером; в части компаний первый этап проводит ИИ-рекрутер в мессенджере;
- Python-секция: код, асинхронность, проектирование API, иногда алгоритмические задачи;
- теория: трансформеры, токенизация, эмбеддинги, методы дообучения, причины галлюцинаций, метрики RAG;
- System Design LLM-системы: спроектировать ассистента по документам или поддержке с ограничениями по качеству, цене и безопасности;
- разбор прошлых проектов и встреча с командой.
Классические вопросы по ML разобраны в статье про задачи на собеседовании ML-инженера.
Плюсы и минусы профессии
| Плюсы | Минусы |
|---|---|
| Один из самых быстрорастущих сегментов в IT, зарплаты растут быстрее рынка | Инструменты и модели меняются каждые несколько месяцев |
| Задачи видны бизнесу и быстро доходят до пользователей | Качество LLM трудно гарантировать, многое держится на оценке и тестах |
| Подходит разработчикам без глубокой математики, если не идти в обучение моделей | Для дообучения и развёртывания нужны дорогие GPU |
| Много удалённых и гибридных вакансий | Размытые названия роли, обязанности сильно различаются |
| Опыт переносится в агентов, MLOps и AI-продакт-менеджмент | Мало позиций для новичков без опыта разработки |
Частые вопросы
Чем LLM-инженер отличается от разработчика ИИ-агентов?
LLM-инженер отвечает за то, как модель получает знания и насколько качественно отвечает: RAG, дообучение, развёртывание, оценка. Разработчик ИИ-агентов строит поверх этого логику многошаговых действий: планирование, инструменты, память. В небольших командах это один человек.
Нужно ли LLM-инженеру обучать модели с нуля?
Обычно нет. Большинство задач решается RAG, промптингом и дообучением готовых моделей. Предобучение с нуля ведут только компании, которые создают собственные базовые модели.
Что выбрать: RAG или fine-tuning?
RAG — когда модели нужны актуальные или закрытые знания и ссылки на источники. Дообучение — когда нужно изменить формат, стиль или поведение модели либо ускорить и удешевить ответ компактной моделью. На практике их часто сочетают.
Нужна ли математика?
Для RAG и интеграций достаточно базовой линейной алгебры и статистики, чтобы понимать эмбеддинги и метрики. Для дообучения и оптимизации моделей нужна база глубокого обучения на уровне ML-инженера.
Можно ли стать LLM-инженером без опыта программирования?
Сразу — нет: вакансии требуют уверенного Python и опыта продакшен-разработки. Без программирования можно начать с промпт-инжиниринга или автоматизации и параллельно учиться разработке.
Какие модели используют в российских компаниях?
Облачные GigaChat и YandexGPT, а также открытые модели (Qwen, Llama, Mistral, DeepSeek), развёрнутые в собственном контуре. Зарубежные API используют реже из-за требований к хранению персональных данных и оплаты.