Staff Software Engineer, LLM-агенты и ML

Staff Software Engineer

Компания ищет Staff Software Engineer для руководства разработкой production AI-агентов и систем адаптации моделей. Это hands-on роль технического лидерства с ответственностью за fine-tuning LLM, архитектуру агентов, оценку и инфраструктуру инференса.

Задачи:

• Определять стратегию моделей, балансируя frontier и open-weight LLM по точности, задержке и стоимости.
• Дообучать и адаптировать open-weight модели с использованием LoRA, QLoRA, SFT и preference optimization.
• Проектировать и разворачивать production AI-агентов с tool use, оркестрацией и структурированными выходами.
• Строить фреймворки оценки для измерения производительности, надёжности и галлюцинаций моделей.
• Превращать реальную обратную связь пользователей и production-трейсы в обучающие данные и непрерывные улучшения моделей.
• Оптимизировать serving моделей, производительность инференса, батчинг и квантизацию.
• Вести техническую архитектуру, менторить инженеров и оставаться hands-on в коде.

Требования:

• Сильный опыт в прикладном AI, машинном обучении или software engineering.
• Подтверждённый опыт fine-tuning LLM и развёртывания адаптированных моделей в production.
• Опыт создания production-grade AI-агентов и пайплайнов оценки.
• Уверенные навыки Python и PyTorch.
• Знакомство с Hugging Face, DeepSpeed, Ray или аналогичными фреймворками.
• Понимание LLM-инференса, model serving, observability и оптимизации стоимости.
• Способность принимать технические решения и решать неоднозначные инженерные задачи.

Технологический стек:

• Python, PyTorch
• Hugging Face, DeepSpeed, Ray
• LoRA, QLoRA, SFT, preference optimization
• LLM-агенты, tool calling, оркестрация
• Model serving, квантизация, оптимизация инференса
• Оценка LLM, observability и guardrails

Условия:

• Базовая зарплата $235,000–$285,000 + equity.
• Нью-Йорк, работа в офисе (onsite).
• Венчурный AI-стартап с коммерческой traction и растущим внедрением в enterprise.
• Значимый equity и прямое влияние на продукт и рост компании.