GenAI-инженер, LLM-инженер

GenAI/LLM-инженер, удалённо, работа в часовом поясе PST. Предпочтителен кандидат из района залива Сан-Франциско.

Роль требует практикующего специалиста по глубокому обучению, уверенно работающего с современными фреймворками и библиотеками для разработки LLM.

Задачи:

• Внедрение и оптимизация продвинутых методов тонкой настройки (LoRA, PEFT, QLoRA) для адаптации фундаментальных моделей под домен клиента.
• Разработка системных методологий промт-инжиниринга для операционной деятельности, нормативного соответствия и технической документации.
• Создание переиспользуемых шаблонов и библиотек промтов для стандартизации взаимодействия с LLM-приложениями.
• Внедрение фреймворков тестирования промтов для количественной оценки и итеративного улучшения их эффективности.
• Настройка систем версионирования промтов и управления для поддержания качества.
• Применение методов кастомизации моделей: дистилляция знаний, квантизация, прунинг — для снижения потребления памяти и затрат на инференс.
• Решение проблем с памятью с помощью шардированного параллелизма данных, выгрузки на GPU или гибридных подходов CPU+GPU.
• Построение пайплайнов RAG с векторными базами данных, пайплайнами эмбеддингов и оптимизированными стратегиями чанкинга.
• Разработка продвинутых стратегий промтинга: цепочки рассуждений, оркестрация диалогов, агентные подходы.
• Совместная работа с MLOps-инженером для эффективного развертывания, мониторинга и переобучения моделей.

Требования:

• Глубокое обучение и NLP: владение PyTorch/TensorFlow, Hugging Face Transformers, DSPy, продвинутыми техниками обучения LLM.
• Знание GPU и аппаратного обеспечения: опыт многогпу-обучения, оптимизации памяти, стратегий параллелизации.
• LLMOps: знакомство с процессами поддержки LLM-приложений в продакшене и мониторингом производительности моделей.
• Техническая адаптивность: умение читать исследовательские статьи и внедрять новые техники (без обязательного владения математикой уровня PhD).
• Доменная адаптация: навыки создания пайплайнов данных для тонкой настройки моделей под специфический контент.