Revaz G.

Revaz G.

Победившая ставка
36 0
  • Проекты 36
  • Оценка 5.0
  • Рейтинг 15 973

Бюджет: 700 USD Срок: 8 дней

Привет JC,

Это классическая задача MLOps, и ваша цель безопасно делиться высокопроизводительным GPU среди вашей команды — правильный подход. Как Full-Stack разработчик с глубоким опытом в Docker и облачной архитектуре, я могу разработать для вас надежную и безопасную систему.

Просто подключение контейнеров к GPU недостаточно; вам нужна управляемая, безопасная и изолированная среда. Вот профессиональная архитектура, которую я предлагаю:

1. Настоящая изоляция GPU с NVIDIA MIG: для карт A6000/L40 мы будем использовать NVIDIA Multi-Instance GPU (MIG). Это разделяет GPU на аппаратном уровне, предоставляя каждому пользователю выделенный кусок вычислений и памяти. Это лучше, чем простое деление по времени, так как оно предотвращает влияние нагрузки одного пользователя на производительность других.

2. Централизованная аутентификация через Traefik Reverse Proxy: я рекомендую Traefik, современный обратный прокси, который легко интегрируется с Docker. Он будет выступать в качестве единой, безопасной точки входа.

  • Проекты 14
  • Оценка 3.8
  • Рейтинг 1 371

Бюджет: 180 USD Срок: 2 дня

Привет JC, это интересная задача, и я буду рад помочь.
Я могу предложить чистую и масштабируемую архитектуру, в которой каждый из ваших 4–6 пользователей запускает свой изолированный контейнер микросервиса Docker, все совместно используют доступ к одному мощному GPU (например, RTX A6000 или L40).

Архитектура будет включать:

Безопасное совместное использование GPU (NVIDIA Container Toolkit + MIG, если необходимо)

Аутентифицированный доступ для каждого пользователя (через прокси + имя пользователя/пароль)

Центральный прокси для контроля доступа к внешним AI-сервисам (обеспечение конфиденциальности)

  • Проекты 20
  • Оценка 5.0
  • Рейтинг 9 264

Бюджет: 1000 USD Срок: 10 дней

Привет
Имею опыт с:
- Конфигурацией NVIDIA MIG
- Разделением GPU в Docker
- Настройкой прокси NGINX
- Системами аутентификации

Могу предложить архитектуру на базе:
- Разделения GPU с помощью MIG
- Docker Compose с отображением устройств GPU

  • Проекты -
  • Оценка -
  • Рейтинг 99

Бюджет: 1300 USD Срок: 8 дней

Здравствуйте!
Эта настройка требует аккуратного обращения, но я могу позаботиться об этом. У каждого пользователя будет личный контейнер. Все контейнеры будут делить один GPU без конфликтов. Я могу настроить безопасный вход, чтобы только ваша команда могла получить к нему доступ. Трафик ИИ будет передаваться через одно защищённое соединение, чтобы ваши ключи оставались в безопасности.
Это сложная задача, но у меня есть некоторый опыт работы с подобными системами. Как только всё будет готово, оно будет работать гладко и без особых усилий с вашей стороны.

Ставки скрыты

В списке не показаны ставки, скрытые заказчиком или фрилансером c профилем Plus, а также ставки, нарушающие правила

Актуальные фриланс-проекты в категории AI и машинное обучение

11:53
5 июля
5 июля
5 июля
4 июля