Специалист по оптимизации GPU
Задача:
Разрабатывать и внедрять методы ускорения вычислений.
Настраивать контейнеры под различные ускорители (GPU, TPU и т.д.).
Создавать стратегии баланса производительности и качества.
Готовить специализированные контейнерные образы под конкретные архитектуры.
Проектировать масштабируемые системы для различных вычислительных протоколов.
Адаптировать код под новые версии фреймворков.
Интегрировать специализированное оборудование.
Требования:
Опыт оптимизации больших языковых моделей.
Глубокое знание трансформеров и механизмов внимания.
Владение инструментами для ускорителей и их оптимизации (CUDA, ROCm и т.д.).
Опыт работы с фреймворками оптимизации (TensorRT, OpenVINO, Triton).
Понимание контейнеризации (Docker) и управления нагрузками (Kubernetes, Slurm).
Будет плюсом:
Опыт с распределенными сетями.
Участие в ML-соревнованиях.
Знание архитектур современных ускорителей.
Работа со специализированными устройствами (FPGA, ASIC).
Условия:
Возможность перехода в штат с долей в доходах.
Бонусы, привязанные к реальным улучшениям производительности, которые вы внедрите.
Полная удаленность, гибкий график.
-
14 дней673 688 UAH
1213 8 0 14 дней673 688 UAHМы в SDEV имеем глубокий опыт в оптимизации вычислений на GPU и настройке инфраструктуры под высоконагруженные задачи. Реализуем это через профилирование CUDA-ядер и тонкую настройку Docker-контейнеров для эффективного использования аппаратных ускорителей. Готовы обеспечить баланс производительности и качества для Ваших моделей.
-
1 день2246 UAH
1738 9 0 1 день2246 UAHЗдравствуйте. Для реализации проекта я сосредоточусь на разработке низкоуровневых оптимизаций и адаптации архитектурных решений под различные типы ускорителей, такие как GPU и TPU, используя CUDA/ROCm и фреймворки типа TensorRT или OpenVINO. Будет создана масштабируемая контейнерная инфраструктура на базе Docker и Kubernetes для эффективного развертывания и управления вычислениями, обеспечивая оптимальный баланс производительности и качества для больших языковых моделей. Я уже успешно реализовывал подобные проекты по оптимизации трансформеров и имею готовые скрипты и шаблоны для ускорения настройки и бенчмаркинга. Все детали реализации, конечный бюджет и сроки предлагаю обсудить в личных сообщениях.
London