Разработчик рантайма в Алису

О нас

Алиса — высоконагруженный сервис Яндекса на базе больших языковых моделей (LLM). Мы развиваем агентную архитектуру: модели превращаются в специализированных агентов — одни ищут информацию в интернете, другие управляют браузером, третьи работают с файлами и приложениями. Сейчас мы создаём новый единый рантайм, который позволит Алисе эффективно обрабатывать задачи любой сложности и длительности.

Задачи

• Проектировать архитектуру Алисы и разрабатывать новый рантайм, который единообразно работает как с долгими агентскими задачами (десятки минут), так и с быстрыми запросами (сотни миллисекунд) без лишнего оверхеда.
• Обеспечивать надёжность, эффективность и масштабируемость сервиса, обрабатывающего десятки тысяч RPS и работающего с разнообразными входными данными: текстом, голосом, изображениями, файлами.
• Создавать прозрачную и понятную архитектуру, которая позволяет улучшать систему в целом и отдельные компоненты (модели, инструменты, агенты), используя единые термины для траекторий выполнения.

Требования

• Умение разрабатывать высоконагруженные сервисы.
• Знание тонкостей асинхронного взаимодействия в многокомпонентных системах.
• Понимание принципов работы агентных систем.
• Готовность писать на C++.

Будет плюсом

• Опыт работы с Temporal или другими системами оркестрации.
• Интерес к большим языковым моделям (LLM) и понимание принципов их работы.