Backend/Platform Developer в команду LLM Platform
LLM Platform — единая точка входа для работы с LLM в Яндексе. Мы помогаем командам эффективно использовать LLM в продуктах, внутренних сервисах и бизнес-процессах. Позиция подойдёт разработчику, которому интересно строить не просто продуктовые фичи, а внутреннюю платформу масштаба крупной компании.
Задачи
- Разработка системы управления квотами: задавать квоты на разные типы запросов, управлять лимитами, предоставлять аналитику, реализовывать биллинг и cost allocation.
- Интеграции с LLM-провайдерами и внутренними моделями: развивать единый API для работы с разными моделями и провайдерами, подключать LLM-провайдеров и собственные инференсы, унифицировать форматы запросов и ответов, разрабатывать механизмы маршрутизации запросов.
- Безопасное использование данных: проектировать механизмы безопасной передачи данных в публичные модели, разрабатывать фильтры и политики обработки запросов, интегрироваться с системами контроля.
Требования
- Занимались бэкенд-разработкой на Go на промышленном уровне
- Понимаете принципы построения распределённых систем
- Проектировали API и интеграции сервисов
- Понимаете observability (метрики, логи, алерты)
- Готовы разбираться в области LLM
Бонусы
- Компенсация обедов
- Свежие фрукты на кофепойнтах
