Компания-разработчик ПО, помогающая бизнесу автоматизировать и оптимизировать операции, ищет LLM-инженера.
Условия
- 100% удалённая работа (США).
- Полная занятость, W2.
- Долгосрочный проект (multi-year).
- Зарплата: $100 000 – $150 000 в год.
- Опыт: от 6 лет.
- Без новой H1B-спонсорской поддержки; перевод существующей H1B возможен.
- Без C2C, 1099 и посредников.
- Обязательное техническое задание на кодирование.
Задачи
- Проектировать и выполнять эксперименты по дообучению больших языковых моделей с использованием supervised, DPO, RLHF.
- Разрабатывать процессы создания, курирования и обеспечения качества наборов данных для instruction tuning и preference data.
- Строить пайплайны обучения на основе современных фреймворков распределённого обучения.
- Настраивать гиперпараметры, конфигурации оптимизатора и стратегии стабильности обучения для дообучения больших моделей.
- Внедрять методы параметро-эффективного дообучения, такие как QLoRA.
- Разрабатывать комплексные наборы оценочных тестов, включая автоматизированные бенчмарки, оценку и специфичные для возможностей пробы.
- Внедрять оценки безопасности, отказов и политик для контроля поведения модели в различных релизах.
- Запускать крупные обучающие задания на GPU-кластерах, диагностировать сбои и надёжно восстанавливать состояние обучения.
- Оптимизировать пропускную способность обучения с помощью mixed precision, sequence packing и эффективных реализаций attention.
- Управлять артефактами моделей, отслеживанием и воспроизводимостью экспериментов.
- Сотрудничать с командами продукта, исследований и платформы для согласования дорожной карты дообучения с бизнес-потребностями.
- Документировать методологию обучения и результаты.
Требования
- Глубокий практический опыт с современными стеками обучения.
- Тщательное построение наборов данных.
- Строгая методология оценки.
- Инженерная дисциплина для надёжной эксплуатации пайплайнов обучения.
- Сильная ML-интуиция и производственные инженерные практики.
- Умение находить компромиссы между данными, вычислительным бюджетом, строгостью оценки и скоростью поставки.
- Опыт работы с кросс-функциональными командами (продукт, дизайн, инженерия, операции, бизнес).
- Навыки менторства младших инженеров.
- Сильная инженерная дисциплина, коммуникативные навыки, опыт успешных продакшн-релизов.