Senior ML-инженер по LLM-инференсу и дообучению
О компании
Глобальная компания в сфере кибербезопасности, основанная в 2011 году. Помогает организациям предотвращать нарушения безопасности и защищать операции; обрабатывает почти 3 трлн событий в день и поддерживает клиентов из разных отраслей. Поощряет гибкость, автономность, ответственное внедрение, непрерывное обучение и инновации.
О роли
ML-инженер уровня Senior в команду AIDR Engineering. Роль обеспечивает инженерную поддержку группе специалистов по данным, которая занимается высокопроизводительным LLM-инференсом с низкой задержкой. Предстоит сотрудничать с инженерами и прикладными специалистами по данным над посттренингом LLM, строгими оценками и масштабируемыми клиентскими приложениями. Команда помогает корпоративным пользователям безопасно взаимодействовать с приложениями. Также нужно участвовать в разработке кастомных моделей, построении пайплайнов данных, работе над производительностью систем и надёжностью продуктов на основе ИИ.
Задачи
- Применять методы машинного обучения в науке о данных и поддерживать исследовательские команды и команды разработки.
- Разрабатывать инженерные решения для масштабируемых клиентских приложений.
- Выявлять потенциальные уязвимости, пробелы и возможности улучшения.
- Строить и поддерживать пайплайны данных, участвовать в обучении и внедрении кастомных моделей.
- Сотрудничать с инженерами, специалистами по данным и другими командами, чтобы определять проблемы и находить эффективные решения.
- Поддерживать высокие стандарты кода через тестирование, ревью кода, логирование и метрики.
- Разрабатывать, тестировать, развёртывать и отслеживать изменения, неся сквозную ответственность за порученную работу.
- Улучшать архитектуру продукта, модели знаний, пользовательский опыт, производительность и надёжность.
- Наставлять других инженеров, делиться знаниями и учиться у коллег.
- Понимать задачи клиентов и находить способы улучшить возможности продукта и поддержку.
- Развивать технические навыки и вносить вклад в коллаборативную гибкую среду.
Требования
- Опыт в архитектуре, поддерживающей продвинутые сценарии науки о данных.
- Глубокое понимание методов посттренинга LLM и вычислительных архитектур.
- Понимание масштабируемости и распределённых концепций, включая шардирование и партиционирование.
- Сильные знания инженерных практик: подходы к тестированию, ревью кода коллегами и устойчивая архитектура.
- Способность работать в среде с разработкой через тестирование, коллаборативным и итеративным подходом.
- Способность выпускать качественный код с модульными тестами и ревью, регулярно участвовать в непрерывной интеграции.
- Опыт использования технологий для улучшения принятия решений, оптимизации рабочих процессов, повышения эффективности и поддержки бизнес-результатов.
- Сильные навыки сотрудничества с инженерными командами и прикладными специалистами по данным.
- Опыт в кибербезопасности не требуется; есть возможность изучить концепции безопасности, актуальные для роли.
Технические навыки
- Высокоуровневый язык программирования, например Python или технологии на JVM.
- Docker и Kubernetes.
- AWS, Google Cloud Platform (GCP) или MaaS.
- Kafka, Cassandra и Spark.
- Elasticsearch.
- Инструменты автоматизации инфраструктуры, например Terraform, Chef или Ansible.
- Масштабирование инференса на GPU или GPU-кластерах.
- Кандидатам не обязательно знать все перечисленные технологии; важны выраженная способность и желание учиться.
Предпочтительно
- Прикладной опыт с масштабируемыми архитектурами для посттренинга или дообучения LLM.
- Опыт в кибербезопасности или разведке.
Оплата и льготы
- Базовая зарплата в США: $140 000–215 000 в год. Размер компенсации зависит от релевантного опыта, навыков, сертификаций, уровня должности, руководящей роли и локации.
- Дополнительная компенсация может включать бонусы и гранты акций.
- Льготы: медицинская страховка, план 401(k), оплачиваемый отпуск, программы физического и психического благополучия; перечень в исходнике обрывается.