Revaz G.
Победившая ставкаБюджет: 700 USD Срок: 8 дней
Привет JC,
Это классическая задача MLOps, и ваша цель безопасно делиться высокопроизводительным GPU среди вашей команды — правильный подход. Как Full-Stack разработчик с глубоким опытом в Docker и облачной архитектуре, я могу разработать для вас надежную и безопасную систему.
Просто подключение контейнеров к GPU недостаточно; вам нужна управляемая, безопасная и изолированная среда. Вот профессиональная архитектура, которую я предлагаю:
1. Настоящая изоляция GPU с NVIDIA MIG: для карт A6000/L40 мы будем использовать NVIDIA Multi-Instance GPU (MIG). Это разделяет GPU на аппаратном уровне, предоставляя каждому пользователю выделенный кусок вычислений и памяти. Это лучше, чем простое деление по времени, так как оно предотвращает влияние нагрузки одного пользователя на производительность других.
2. Централизованная аутентификация через Traefik Reverse Proxy: я рекомендую Traefik, современный обратный прокси, который легко интегрируется с Docker. Он будет выступать в качестве единой, безопасной точки входа.
Функция: все запросы пользователей сначала поступают в Traefik.
Безопасность: Traefik будет требовать аутентификацию по логину и паролю перед перенаправлением запроса в приватный контейнер пользователя, обеспечивая доступ только авторизованным членам команды.
3. Безопасный сервис AI Gateway: для защиты ваших API-ключей AI мы реализуем отдельный микросервис "AI Gateway".
Рабочий процесс: микросервисы вашей команды будут обращаться к этому внутреннему шлюзу для вызовов AI — сами ключи AI никогда не хранятся у них.
Преимущество: этот шлюз — единственный компонент, который взаимодействует с внешними AI-сервисами (например, OpenAI). Это централизует управление ключами, повышает безопасность и упрощает мониторинг.
Доставка:
Для этого проекта я подготовлю для вас подробный архитектурный документ. В него войдут:
Детальная схема всей системы.
Обоснование выбора каждой технологии.
Пример файла docker-compose.yml, показывающего, как все сервисы (Traefik, AI Gateway и пользовательские контейнеры) определены и связаны между собой.
Моя цена за предоставление этого полного архитектурного плана — 450 долларов, и я подготовлю его за 3 дня.
