ML-инженер / LLM-инженер

Компания разрабатывает микропроцессорные устройства для железнодорожной автоматики и телемеханики, цифровых платформ, а также корпоративные LLM-системы в изолированной инфраструктуре: AI-агенты, RAG-сервисы, локальные платформы для inference и экспертные системы. Основное внимание уделяется open-weight и self-hosted моделям (Mistral, Llama, Qwen и др.) с акцентом на локальный deployment, безопасность, воспроизводимость и надежность.

Обязанности:

• Разработка AI-агентов: проектирование и реализация LLM-агентов для корпоративных задач (ассистенты, чат-боты), создание многошаговых сценариев с использованием tool/function calling и self-correction, разработка логики принятия решений, внедрение современных протоколов взаимодействия моделей и инструментов, оптимизация prompt-цепочек и механизмов управления задачами.
• Интеграция с источниками данных: подключение агентов к корпоративным источникам (SQL/NoSQL, API), разработка RAG-систем (retrieval, reranking, hybrid search), управление доступом к знаниям с учетом прав пользователей, интеграция векторных хранилищ и поисковых движков.
• Память агентов: проектирование кратковременной и долговременной памяти, разработка механизмов запоминания и обновления информации, учет приватности данных.
• Развёртывание и оптимизация inference: развёртывание локальных LLM-сервисов и настройка GPU-инфраструктуры, оптимизация производительности моделей, работа с различными форматами квантования моделей.
• Безопасность и отказоустойчивость: создание безопасных LLM-сервисов с изоляцией окружения, минимизация рисков безопасности и реализация аудита доступа, проектирование отказоустойчивых систем.
• Мониторинг и аудит: внедрение observability для LLM-агентов (логирование, метрики), контроль за использованием токенов, задержками и качеством ответов, создание audit trail для действий агентов.
• Оценка качества: создание eval-пайплайнов для оценки RAG и агентных систем, измерение точности, скорости и качества ответов, участие в A/B-тестах и непрерывном улучшении качества.
• Data pipeline: разработка процессов обработки данных от источников до конечных результатов.

Требования:

• LLM-системы: разработка self-hosted/open-weight моделей.
• Docker и Kubernetes: уверенное использование.
• Понимание трансформеров: токенизация, контекстное окно, inference, quantization.
• RAG: опыт с embeddings, vector search, hybrid search.
• Векторные базы: работа с FAISS, Qdrant, Milvus и аналогами.
• Агентные паттерны: tool usage, function calling, memory, prompt chaining.
• Фреймворки для LLM/агентов: опыт с LangGraph, Haystack и другими.
• GPU-инфраструктура: мониторинг и профилирование ресурсов.
• Корпоративные ассистенты: опыт разработки чат-ботов и LLM-сервисов.
• Безопасность: понимание RBAC, PII и prompt injection.
• Воспроизводимые пайплайны: от данных до inference.
• Системное мышление: проектирование отказоустойчивых сервисов.
• Английский от B1: уверенное чтение документации.

Плюсом будет:

• Опыт работы с MCP и проектированием tool/context servers.
• A2A взаимодействие между агентами.
• Fine-tuning моделей (LoRA, QLoRA и др.).
• Опыт работы с LLaMA-Factory, Axolotl и аналогами.
• Квантование моделей (GPTQ, FP8/INT8).
• Прод-инференс на vLLM, TensorRT-LLM и др.
• Advanced inference методы (speculative decoding, KV cache offload).
• Работа с knowledge graphs и semantic caching.
• Мультиагентные системы и orchestration (Temporal, Airflow).
• MLOps инструменты (MLflow, Kubeflow).
• Проектирование мультимодальных LLM-агентов.
• Sandbox execution и browser tools.

Условия:

• Опыт работы: более 6 лет.
• Занятость: полная занятость.
• График: 5/2, рабочие часы: 8.
• Формат работы: на месте работодателя, офис в Москве.
• Соблюдение гарантий, установленных Трудовым законодательством РФ.
• Современный офис (не open-space), рабочее место оборудовано всем необходимым.
• Расширенное ДМС со стоматологией и обслуживанием в лучших клиниках города.
• Возможность развития и обмена опытом с командой профессионалов.
• Уютная обеденная зона с бесплатными чаем и кофе, настольные игры.
• Мобильная связь для сотрудников.
• Корпоративный английский язык.
• Доплата до оклада за время больничного.
• Достойный уровень заработной платы, премия по итогам года.
• Работа в аккредитованной IT-компании с возможностью карьерного и функционального роста.
• Стабильный и прозрачный доход.
• Офис в пешей доступности от м. Свиблово, станции Лосиноостровская, МЦК Ростокино.