ML-инженер по LLM: файнтюнинг и RAG

О роли

Работа над AI-системами, на которые будут опираться клиенты компании и медицинские эксперты для точной, эффективной и надёжной поддержки принятия решений. Требуется специалист с сильным фокусом на тонкую настройку и адаптацию больших языковых моделей (LLM) и опытом полного жизненного цикла ML: от предобработки данных и разработки модели до деплоя, оптимизации и мониторинга. Помимо фундамента в машинном обучении и data engineering, нужен практический опыт файнтюнинга LLM, параметр-эффективных методов обучения (LoRA/QLoRA) и оценки моделей. Работа предполагает тесное взаимодействие с кросс-функциональными командами для создания доменных AI-решений.

Задачи

• Сбор, предобработка и структурирование сложных неструктурированных медицинских и клинических данных (записи, отчёты, клинические заметки) для обучения и тонкой настройки с соблюдением требований приватности и безопасности (HIPAA, GDPR).
• Проектирование, адаптация и файнтюнинг LLM под специализированные задачи: суммаризация, извлечение информации, семантический поиск, классификация; применение параметр-эффективных подходов (LoRA/QLoRA, PEFT).
• Оценка и бенчмаркинг современных открытых LLM (Llama, Mistral, Gemma), эксперименты с новыми архитектурами, методами файнтюнинга и оптимизацией инференса.
• Построение и поддержка MLOps-пайплайнов для обучения, деплоя и масштабирования моделей; контейнеризация и оркестрация (Docker/Kubernetes), CI/CD для воспроизводимости и быстрых итераций.
• Создание системы мониторинга точности, дрейфа и устойчивости моделей, валидация результатов вместе с доменными экспертами и итеративные улучшения по обратной связи.
• Обеспечение справедливости, прозрачности и объяснимости AI-систем, проведение аудитов предвзятости и документирование процессов принятия решений.
• Взаимодействие с инженерами, продакт-менеджерами и доменными экспертами, перевод требований в AI-решения и объяснение сложных AI-концепций техническим и нетехническим стейкхолдерам.

Требования

• Степень бакалавра или магистра в computer science, data science или смежной количественной области.
• Опыт работы Machine Learning Engineer, Data Scientist или в аналогичной роли, включая создание и деплой production-систем ML.
• Уверенные навыки программирования на Python, владение фреймворками PyTorch или TensorFlow.
• Опыт файнтюнинга LLM и генеративных моделей, включая параметр-эффективные подходы (LoRA, QLoRA), instruction tuning, supervised fine-tuning (SFT) и методы обучения с подкреплением (RLHF, DPO, GRPO).
• Практический опыт с фреймворками и библиотеками для LLM: Hugging Face Transformers, DeepSpeed, bitsandbytes, vLLM.
• Знакомство с retrieval-augmented generation (RAG), LangChain/LlamaIndex и векторными базами данных.
• Навыки оценки и бенчмаркинга моделей: метрики под задачу, человеческая оценка, тестирование на предвзятость и справедливость.
• Знание распределённого обучения, оптимизации GPU и квантизации (4-бит, 8-бит) для эффективной адаптации моделей.
• Практический опыт с MLOps-практиками и инструментами: деплой (vLLM, Ray Serve), мониторинг (Evidently AI, Prometheus/Grafana), трекинг экспериментов и версионирование моделей (MLflow, Weights & Biases), оркестрация воркфлоу (Apache Airflow).
• Знакомство с облачными платформами; опыт с Oracle Cloud Infrastructure (OCI) — сильный плюс.
• Сильные навыки решения задач и умение работать с профильными экспертами, переводя сложные доменные знания в решения машинного обучения.
• Понимание принципов приватности и безопасности данных, особенно при работе с чувствительными и регулируемыми данными (например, PHI).

Условия

• Локация: Канада.
• Оплата: по договорённости.