Welo Global Опубликована 13 дней назад · отклик: jobicy.com
Senior промт-инженер по LLM-автооценке
ЗарплатаПо договорённости
ФорматНе указан
ЛокацияИспания
ГрейдSenior
ЗанятостьЧастичная занятость
Project Lion — проект по миграции шаблонов на LLM-автооценщики (autoraters). Требуется промт-инженер для сквозного технического workflow миграции с использованием внутренних инструментов клиента и техник промт-инжиниринга для максимизации качества моделей.
Задачи:
- Использовать инструменты автоматической генерации промтов (APG) для создания базовых промтов для сложных кластеров родительских и дочерних шаблонов.
- Запускать и контролировать инструмент автоматической оптимизации промтов (APO), проверять результаты и отмечать случаи, когда APO заходит в тупик или выходит на плато.
- Вручную составлять, тестировать и дорабатывать промты для сложных архитектур шаблонов, обхода анти-паттернов и обработки краевых случаев, где инструментарий отсутствует или не работает.
- Отслеживать запуски shadowbot, чтобы убедиться, что расхождения между оценками человека и LLM фиксируются, генерируются и отслеживаются в достаточном объёме.
- Прогонять версии промтов на эталонных данных для постоянного измерения качества автооценщика относительно базовой линии человеческой разметки, рассчитывая метрики точности, такие как F1, precision и recall.
- Готовить обоснования технической готовности к запуску (Launch Certification Documentation).
Требования:
- Свободное владение испанским (родной уровень) и свободный английский.
- Проживание в Испании.
- Степень бакалавра, магистра или доктора в области компьютерных наук, Data Science, вычислительной лингвистики, Human-Computer Interaction (HCI), когнитивных наук или смежной аналитической области.
- Не менее 4 лет опыта работы промт-инженером.
- Подтверждённый опыт настройки больших языковых моделей (LLM) для строгих структурированных выходов и сложных задач классификации, знакомство с chain-of-thought и few-shot learning.
- Сильные навыки анализа данных: выявление паттернов ошибок, анализ производительности моделей, использование SQL или других инструментов аналитики.
- Техническая гибкость: способность быстро осваивать проприетарные инструменты при минимальном надзоре.
- Отличные навыки устной и письменной коммуникации.
Дополнительно приветствуется:
- Знакомство с корпоративными интерфейсами LLM, такими как Goose API.
- Опыт оценки AI-моделей, Data Science, вычислительной лингвистики или разработки ПО.
- Практический опыт с системами автоматической оптимизации промтов (APO) или workflow настройки.
- Лингвистическая экспертиза, включая понимание семантики и логики.
Условия: удалённая работа, частичная занятость, Испания. Оплата по договорённости.
Навыки и технологии
Направления