Защищённые докеры (4+) для совместного использования 1 GPU.
31 066 UAH
Здравствуйте. Мы ищем специалиста, который предложит лучшую архитектуру для подключения нескольких частных образов Docker к одному GPU, например, RTX A6000 или L40, включая добавление прокси для приватного подключения к любому AI.
Нам нужно, чтобы команда из 4-6 человек имела индивидуальные образы Docker нашего микросервиса, подключённые к совместному GPU, к которому можно получить доступ по имени пользователя и паролю. Спасибо. JC.
-
Победившая ставка8 дней31 066 UAHПобедившая ставка8 дней31 066 UAH
Привет JC,
Это классическая задача MLOps, и ваша цель безопасно делиться высокопроизводительным GPU среди вашей команды — правильный подход. Как Full-Stack разработчик с глубоким опытом в Docker и облачной архитектуре, я могу разработать для вас надежную и безопасную систему.
Просто подключение контейнеров к GPU недостаточно; вам нужна управляемая, безопасная и изолированная среда. Вот профессиональная архитектура, которую я предлагаю:
1. Настоящая изоляция GPU с NVIDIA MIG: для карт A6000/L40 мы будем использовать NVIDIA Multi-Instance GPU (MIG). Это разделяет GPU на аппаратном уровне, предоставляя каждому пользователю выделенный кусок вычислений и памяти. Это лучше, чем простое деление по времени, так как оно предотвращает влияние нагрузки одного пользователя на производительность других.
2. Централизованная аутентификация через Traefik Reverse Proxy: я рекомендую Traefik, современный обратный прокси, который легко интегрируется с Docker. Он будет выступать в качестве единой, безопасной точки входа.
…
Функция: все запросы пользователей сначала поступают в Traefik.
Безопасность: Traefik будет требовать аутентификацию по логину и паролю перед перенаправлением запроса в приватный контейнер пользователя, обеспечивая доступ только авторизованным членам команды.
3. Безопасный сервис AI Gateway: для защиты ваших API-ключей AI мы реализуем отдельный микросервис "AI Gateway".
Рабочий процесс: микросервисы вашей команды будут обращаться к этому внутреннему шлюзу для вызовов AI — сами ключи AI никогда не хранятся у них.
Преимущество: этот шлюз — единственный компонент, который взаимодействует с внешними AI-сервисами (например, OpenAI). Это централизует управление ключами, повышает безопасность и упрощает мониторинг.
Доставка:
Для этого проекта я подготовлю для вас подробный архитектурный документ. В него войдут:
Детальная схема всей системы.
Обоснование выбора каждой технологии.
Пример файла docker-compose.yml, показывающего, как все сервисы (Traefik, AI Gateway и пользовательские контейнеры) определены и связаны между собой.
Моя цена за предоставление этого полного архитектурного плана — 450 долларов, и я подготовлю его за 3 дня.
-
2 дня7988 UAH
1405 14 3 1 2 дня7988 UAHПривет JC, это интересная задача, и я буду рад помочь.
Я могу предложить чистую и масштабируемую архитектуру, в которой каждый из ваших 4–6 пользователей запускает свой изолированный контейнер микросервиса Docker, все совместно используют доступ к одному мощному GPU (например, RTX A6000 или L40).
Архитектура будет включать:
Безопасное совместное использование GPU (NVIDIA Container Toolkit + MIG, если необходимо)
Аутентифицированный доступ для каждого пользователя (через прокси + имя пользователя/пароль)
… Центральный прокси для контроля доступа к внешним AI-сервисам (обеспечение конфиденциальности)
Дополнительный слой VPN для безопасного внутреннего доступа
Я с радостью предоставлю вам полную схему и настройку Docker в течение одного дня, с инструкциями по развертыванию и учетом расширяемости. Давайте обсудим детали, такие как API AI, к которым вы хотите подключиться, и вашу предпочтительную инфраструктуру (физический сервер или облако).
-
10 дней44 379 UAH
9351 20 0 1 10 дней44 379 UAHПривет
Имею опыт с:
- Конфигурацией NVIDIA MIG
- Разделением GPU в Docker
- Настройкой прокси NGINX
- Системами аутентификации
Могу предложить архитектуру на базе:
- Разделения GPU с помощью MIG
… - Docker Compose с отображением устройств GPU
- Обратным прокси NGINX с аутентификацией
- JupyterHub для управления пользователями
-
8 дней57 693 UAH
99 8 дней57 693 UAHЗдравствуйте!
Эта настройка требует аккуратного обращения, но я могу позаботиться об этом. У каждого пользователя будет личный контейнер. Все контейнеры будут делить один GPU без конфликтов. Я могу настроить безопасный вход, чтобы только ваша команда могла получить к нему доступ. Трафик ИИ будет передаваться через одно защищённое соединение, чтобы ваши ключи оставались в безопасности.
Это сложная задача, но у меня есть некоторый опыт работы с подобными системами. Как только всё будет готово, оно будет работать гладко и без особых усилий с вашей стороны.
Актуальные фриланс-проекты в категории AI и машинное обучение
Улучшить работу Claude Code и работа с написанием софтаСейчас разрабатываю СРМ и Аналитику, софт. Делаю через Клод Код, но понимаю что результаты не лучшие в плане изменений. Есть 2 задачи - Нужно помочь сделать пресет по навыкам, мд и так далее чтобы улучшить качество. Взять проверенные с которыми работали, а не с интернета… AI и машинное обучение, Python ∙ 1 день 5 часов назад ∙ 21 ставка |
Нужен специалист для обучения модели детекции объектов на архитектурных чертежах1. Мета задачіНеобходимо обучить или адаптировать модель для автоматического поиска и классификации элементов на архитектурных чертежах интерьерных проектов.Система должна находить объекты на планах, обводить их bbox/контуром, определять класс объекта и возвращать результат в… AI и машинное обучение ∙ 1 день 6 часов назад ∙ 6 ставок |
ИИ-агент в телеграм для интернет-магазина
20 000 UAH
Задача: создание AI-агента в телеграм, для живого общения с клиентами и оформления заказов в ИМ на Опенкарте, также необходимо реализация информирования клиентов в статусах заказов, режиме работы магазина, условиях работы, сроках доставки и прочих вопросов, связанных с работой… AI и машинное обучение, Разработка ботов ∙ 1 день 19 часов назад ∙ 67 ставок |
Доработка вебсайта нa Claude Code
8000 UAH
МЫ делаем сайт для публикации недвижимости. Уже есть основная часть проекта, лендинг и портал, админка. Все уже работает коректно по факту, но есть доработки которые требуют внимания и профессионализма. Более детально задачи предоставим после согласования кандидатуры. Попрошу… AI в дизайне, AI и машинное обучение ∙ 2 дня назад ∙ 45 ставок |
Разработка интеллектуальной системы управления масложировым заводом
258 343 UAH
Ищем опытную команду или специалистов для реализации промышленной AI-платформы мониторинга и управления масложировым производством (подсолнечник, холодное и горячее прессование). Стек и технологии: Beckhoff TwinCAT 3 (Structured Text) · Python 3.11 · Node-RED · InfluxDB 2 ·… AI и машинное обучение, Встраиваемые системы и микроконтроллеры ∙ 2 дня назад ∙ 30 ставок |
San Francisco