ML-разработчик LLM/Go

Компания: Джетлин

Формат работы: офис.

Локация: СНГ / Россия.

Зарплата: по договорённости.

Требования:

• Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов).
• Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи.
• Уверенный дебаг LLM: умение быстро понять, почему модель ответила не так, и исправить это промптом, гиперпараметром или файнтюном.
• Опыт дообучения и оптимизации TTS-моделей.
• Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2).
• Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами.
• Высокая скорость диагностики проблем в инференсе, локализации багов и принятия инженерных решений.
• Уверенное владение Python (PyTorch, huggingface, фреймворки инференса) и Go.
• Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime).
• Практика работы со потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты).
• GoLang: базовое понимание дизайна сервисов (SOLID, DRY, KISS); типизация (строки, числа, слайсы и мапы); примитивы синхронизации и конкуренция (горутины, каналы); указатели и работа с ними; observability.

Будет плюсом:

• Опыт работы с gRPC.
• Умение настроить инфраструктуру (k8s/inventory).
• Знания работы TCP.

Задачи:

• Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог.
• Дебаг голосового пайплайна (поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио, графовых ошибок и т.п.).
• Оперативное принятие архитектурных решений и их самостоятельная реализация в коде.
• Работа с диалоговым стеком и NLP: поддержка и быстрая отладка few-shot классификации сценариев на базе Qwen и классификаторов на BERT.
• Учёт краевых случаев, исправление ошибочных срабатываний интентов.
• При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций).
• Работа с речевым стеком: интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD и передачи текста дальше по пайплайну).
• Дообучение и настройка инференса собственных и опенсорсных TTS и систем клонирования голоса для достижения нужного качества звучания и скорости работы.