Graduate ML-инженер AI Search Infrastructure
TikTok AI & Visual Search Infrastructure — команда, которая строит системы интеллектуального поиска для пользователей по всему миру. Инфраструктура обслуживает миллиарды поисковых запросов в день и поддерживает традиционный поиск, AI-поиск, чат-боты в приложении и визуальный поиск. Работа охватывает как базовую инфраструктуру поисковых систем, так и AI Search стек: крупномасштабные системы индексации и поиска, мультимодальную поисковую инфраструктуру, multi-agent и RAG-движки, высокопроизводительные платформы обучения и инференса LLM/VLM.
Задачи:
- Проектировать, строить и оптимизировать крупномасштабную инфраструктуру для TikTok AI Search & Visual Search, поддерживающую миллиарды онлайн-запросов и большой объём офлайн-обработки данных.
- Развивать платформу поисковых агентов TikTok: multi-agent оркестрация, ReAct и tool-calling workflows, RAG-индексация и serving-движок, управление контекстом и памятью.
- Разворачивать и оптимизировать post-training и инференс LLM/VLM, включая ускорение GPU-инференса, эффективность SFT/RL, оптимизации kernel/CUDA и повышение офлайн-пропускной способности.
- Строить и улучшать компоненты поисковой системы: пайплайны офлайн-обработки документов, распределённые системы индексации для миллиардов/триллионов документов, сервисы извлечения признаков, многоступенчатые сервисы retrieval/ranking.
- Разрабатывать масштабируемые пайплайны данных и распределённые системы для обработки текстовых, изображенческих и видео-датасетов масштаба миллиардов/триллионов, включая офлайн-вычисления, потоковую обработку, планирование задач, хранение и качество данных.
- Исследовать новые технологии в персонализированном поиске, генеративном поиске, мультимодальном понимании, обучении с подкреплением, выравнивании моделей и оценке.
- Сотрудничать с командами ML, продукта и других инженерных направлений для создания точного, быстрого и вовлекающего AI-поиска и визуального поиска.
Минимальные требования:
- Степень бакалавра по Computer Science или смежной дисциплине (завершённая или недавно полученная).
- Сильные навыки программирования, прочная база по структурам данных и базовым алгоритмам.
- Знакомство с Linux-средой разработки и владение хотя бы одним языком программирования: C++, Java, Python или Go.
- Сильные аналитические способности и навыки решения проблем, интерес к сложным инженерным задачам в масштабе.
- Эффективная коммуникация и навыки сотрудничества, чувство ответственности и желание учиться.
Предпочтительные требования:
- Опыт стажировки, исследований, курсовых проектов или open-source в одной или нескольких областях: serving LLM/VLM, RAG или AI-агенты; распределённые системы, системы хранения и крупномасштабная обработка данных; поисковые системы, информационный поиск, рекомендательные системы или рекламные системы.
- Понимание концепций поисковых систем: понимание запросов, индексация, retrieval, ranking и агрегация результатов.
- Знакомство с фреймворками serving LLM, такими как vLLM, SGLang или TensorRT-LLM, или фреймворками разработки агентов, такими как LangGraph, будет плюсом.
- Опыт анализа или оптимизации производительности системы: задержка, пропускная способность, конкурентность, использование памяти или эффективность ресурсов.
- Способность быстро осваивать новые технологии и применять их к практическим инженерным или исследовательским задачам.
Условия:
- Базовая зарплата: $128 000 – $316 800 в год. Компенсация может варьироваться в зависимости от квалификации, навыков, компетенций, опыта и локации. Базовая оплата — часть общего пакета вознаграждения; роль может предполагать дополнительные выплаты.