ML-разработчик для улучшения качества претрейна LLM

Ищем ML-разработчика, который будет улучшать качество претрейна Alice AI LLM. Это направление, отвечающее за умность базовой модели и качество данных.

Задачи

• Эксперименты с претрейн-моделями. Ставить и анализировать вычислительно тяжёлые эксперименты с претрейн-стадией. Проверять гипотезы об источниках прироста ризонинг-способностей внутри различных срезов умности. Постановка и выбор сетапа эксперимента — это довольно творческий этап.
• Пайплайны данных. Строить эффективные пайплайны сбора обучающих данных, их синтеза, обработки и фильтрации в новых доменах. Масштабировать пайплайны, делать более эффективными.
• Изменение обучения. Модифицировать обучение модели для улучшения ризонинга. Внедрять изменения в обучающий пайплайн и оценивать их влияние на качество.
• Экспертные модели. Обучать модели-верификаторы для проверки качества данных и ответов; модели для генерации обучающих данных — SOTA в своём узком домене; модели-фильтры для отсева некачественных данных.
• Исследование скейлинга. Исследовать законы скейлинга качества модели с точки зрения данных и вычислений. Определять, как масштабирование влияет на рост рассуждающих способностей.

Требования

• Глубоко разбираетесь в NLP.
• Знаете Python и разрабатывали на нём.

Условия

• Формат работы: удалённо, гибрид, офис.
• В крупных офисах есть спортзалы — с тренажёрами, инвентарём и душевыми.