Software Engineer LLM & Automation

Удалённая вакансия для кандидатов в США. Некоммерческая прикладная исследовательская организация Basis ищет Software Engineer для разработки масштабируемых систем, интегрирующих большие языковые модели в операционные процессы, с фокусом на автоматизационные пайплайны.

Задачи

• Проектировать и поддерживать автоматизационные пайплайны, объединяющие внутренние инструменты с GPT/Claude и другими LLM.
• Интегрировать данные из сторонних API (например, ATS-платформы) в единые автоматизированные процессы.
• Использовать структурированную генерацию (JSON-схемы, function calling и т.п.) для надёжных и корректных ответов LLM.
• Сотрудничать с Ops и R&D для выявления возможностей автоматизации с высоким эффектом.
• Писать production-код с акцентом на модульность, надёжность и обработку ошибок.
• Развёртывать, масштабировать и оптимизировать решения в защищённой облачной среде.
• Документировать решения для технической и нетехнической аудитории.

Требования

• Опыт программирования на Julia и/или Python (3+ года production-разработки или эквивалент).
• Понимание интеграции LLM через структурированные промпты, фреймворки-скаффолдинги или продвинутые подходы к генерации текста.
• Опыт масштабирования и оптимизации производительности в реальных развёртываниях.
• Уверенная работа со сложной оркестрацией API: rate limits, OAuth, повторные попытки при ошибках.
• Навыки сотрудничества и коммуникации, особенно при сборе требований от нетехнических сотрудников.
• Гибкость и креативность в решении задач, комфорт с итеративной экспериментальной разработкой.
• Соблюдение практик безопасности данных (обработка PII, шифрование, управление секретами).
• Быстрая обучаемость и адаптация к новым разработкам в экосистеме LLM.

Желательные навыки

• Julia: type-driven или multiple-dispatch подходы; настройка производительности, HPC или научные вычисления.
• Python: создание микросервисов на FastAPI, Flask или других фреймворках; продвинутая работа (async, multiprocessing).
• Инструменты и фреймворки LLM: знакомство с open source LLM-клиентами или кастомными интеграциями chain-of-thought.
• Облачная инфраструктура: Docker/Kubernetes, CI/CD пайплайны, паттерны развёртывания в AWS/GCP/Azure.
• Распределённые системы и очереди: конкурентная обработка, таск-очереди (Celery, Sidekiq) или event-driven системы.
• Взаимодействие с базами данных: проектирование схем и запросов в PostgreSQL или аналогичных БД.
• Безопасность и приватность: понимание OAuth-потоков, управления секретами, шифрования данных и ролевого доступа.

Условия

• Удалённая работа.
• Вакансия открыта для кандидатов в США.
• Компания имеет историю спонсорства H1B (2 в 2024, 5 в 2022, 1 в 2020), но это не гарантирует спонсорство для конкретной роли.
• Организация основана в 2022 году, штаб-квартира в Нью-Йорке, штат Нью-Йорк, США, 11–50 сотрудников.