SberTech Опубликована 5 дней назад · отклик: Сайт вакансий
NLP-инженер по pretrain-данным для LLM
ЗарплатаПо договорённости
ФорматГибрид
ЛокацияМосква, Россия
ЗанятостьПолная занятость
Команда GigaChat Pretrain Data готовит pretrain-данные для GigaChat и GigaChat Vision. Объём сырых данных превышает 40 ПБ; задача — превратить их в датасет для обучения LLM.
Обязанности:
- генерировать синтетические данные: математика, код, произвольная синтетика с сидами — документами из Web;
- исследовать токенизацию и её влияние на качество модели (возможно написание статей);
- решать задачи кластеризации миллиардов документов;
- исследовать разные факторы, которыми обладают текстовые данные;
- генерировать Vision-данные для прокачки VLM;
- разрабатывать новые алгоритмы парсинга HTML и исследовать его влияние на качество модели;
- исследовать зависимости между pretrain-данными и agentic capabilities итоговой модели;
- разрабатывать стабильную инфраструктуру для проведения сотен и тысяч экспериментов над данными.
Требования:
- коммерческий релевантный опыт, связанный с NLP или построением инфраструктуры для данных, от двух лет.
Будет плюсом:
- навыки работы с генеративными AI-моделями; опыт создания AI-агентов и использования их в работе;
- опыт использования GigaChat, Kandinsky и аналогов в продуктах, навыки создания и использования AI-агентов;
- инструментальное владение AI для анализа, генерации и автоматизации;
- опыт с MapReduce-системами.
Условия:
- комфортный современный офис рядом с м. Кутузовская;
- гибридный формат работы (2 дня в офисе, 3 дня на удалёнке);
- ежегодный пересмотр зарплаты, годовая премия;
- корпоративный спортзал и зоны отдыха;
- система обучения для профессионального и карьерного развития;
- расширенный полис ДМС с первого дня работы и страхование для семьи;
- льготная программа ипотеки для сотрудников;
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнёров;
- вознаграждение за рекомендацию друзей в команду Сбера.
Инструменты в вакансии
Навыки и технологии
Направления