Lead Edge AI/ML-инженер
Edge AI Lead Engineer — Austin, TX.
Ранняя технологическая компания разрабатывает физический ИИ и автономные системы для сложных сред. Компания создаёт интеллектуальные системы, объединяющие продвинутый ИИ, компьютерное зрение и сенсорные технологии, чтобы организации могли понимать активность, быстрее принимать решения и работать автономно в требовательных условиях.
Роль
Это практическая техническая руководящая позиция: нужно брать сложные модели восприятия, рассуждения и ИИ и обеспечивать их надёжную работу на автономном, локальном и встраиваемом оборудовании. Вы будете определять архитектуру, оптимизировать модели и среды выполнения и решать практические задачи развёртывания ИИ в жёстких ограничениях по вычислениям, памяти, энергопотреблению и задержке. От GPU-серверов и защищённых рабочих станций до встраиваемых платформ на БПЛА и автономных системах — вы будете играть центральную роль в том, как ИИ работает в отключённых средах, где надёжность и производительность критичны.
Задачи
- Определять архитектуру развёртывания возможностей восприятия, обнаружения, трекинга, ре-идентификации и рассуждения на edge- и встраиваемом оборудовании.
- Оптимизировать и сжимать модели машинного обучения с помощью квантизации, прунинга, дистилляции и низкоточной инференции.
- Адаптировать большие языковые модели (LLM), визуально-языковые модели (VLM) и фундаментальные модели для работы на оборудовании с ограниченными ресурсами.
- Разрабатывать эффективные среды выполнения и сервисы инференции для автономных и изолированных развёртываний.
- Профилировать и оптимизировать производительность GPU, CPU и NPU, балансируя требования по памяти, теплу, энергопотреблению и задержке.
- Создавать фреймворки бенчмаркинга и тестирование с оборудованием в контуре для проверки производительности и точности моделей.
- Тесно сотрудничать с инженерами по ИИ, автономности, системам и DevOps для поставки готовых к продакшену edge-развёртываний.
Требования
- Подтверждённый опыт развёртывания моделей машинного обучения в продакшене на edge-, встраиваемом или ином оборудовании с ограниченными ресурсами.
- Сильный практический опыт методов оптимизации моделей: квантизация, прунинг, дистилляция и низкоточная инференция.
- Глубокое понимание архитектуры GPU/CPU, пропускной способности памяти, вычислительной производительности, ограничений по энергопотреблению и теплу.
- Опыт с edge AI платформами и фреймворками инференции, такими как NVIDIA Jetson, TensorRT, ONNX Runtime или аналогами.
- Сильные навыки Python и C++, способность работать на стыке разработки, оптимизации и развёртывания моделей.
- Опыт с задачами компьютерного зрения в реальном времени: обнаружение объектов, трекинг, сегментация и эмбеддинги.
- Готовность брать техническую ответственность, принимать архитектурные решения и вести за собой в небольшой старшей инженерной команде.
Особенно интересный опыт
- Развёртывание LLM и визуально-языковых моделей на устройстве.
- Малые языковые модели, оптимизация KV-кэша и спекулятивное декодирование.
- Мультиобъектный трекинг и ре-идентификация.
- Развёртывания в изолированных, отключённых или автономных системах.
- Интеграция сенсоров EO/IR, радаров или RF.
- Опыт в оборонной сфере, общественной безопасности, государственных или других требовательных операционных средах.
Кандидаты должны находиться или быть готовы переехать в Austin, TX, и соответствовать требованиям US Person в рамках ITAR.