Java-разработчик ML-платформы

Java-разработчик ML-платформы в VK, AI VK.

Разрабатывается внутренняя ML-платформа, которая помогает ML-разработчикам быстро и предсказуемо доводить модели до продакшена — от готовой модели до стабильного продового инференс-сервиса, который можно передавать внешним командам на интеграцию. На платформе больше тысячи моделей и суммарно десятки тысяч запросов в секунду.

Задачи платформы:

• Сокращение time-to-market (TTM): убираем ручные шаги, стандартизируем путь модели в прод и делаем его воспроизводимым и прозрачным
• Эффективность и надёжность: большинство моделей работают на GPU, поэтому важно минимизировать простои, корректно масштабироваться под нагрузку и сохранять устойчивость сервиса даже при сбоях на уровне инфраструктуры или железа

Задачи инженера:

• Развивать backend-инфраструктуру инференс-платформы
• Работать над эффективным использованием GPU
• Совместно с командой инфраструктуры улучшать end-to-end надёжность

Требования:

• Опыт разработки на Java
• PostgreSQL
• Опыт работы с микросервисами

Будет плюсом:

• Опыт работы с ML
• Опыт работы с Inference Backend'ами
• Опыт работы с Nvidia GPU

Условия: офис, заработная плата по договорённости (уровень дохода не указан).