LLM Infrastructure Engineer

OpenKrill ищет LLM Infrastructure Engineer для проектирования, развёртывания и масштабирования инфраструктуры обучения, дообучения и инференса моделей. Работа удалённая, с пересечением по часовому поясу США. Взаимодействие с ML- и software-командами для обеспечения надёжных и экономически эффективных production-нагрузок.

Задачи:

• управление GPU-ресурсами;
• построение data pipeline;
• внедрение мониторинга и CI/CD;
• оптимизация latency и throughput.

Требования:

• уверенное владение Python;
• опыт с Docker/Kubernetes;
• опыт работы с облачными платформами.