Revaz G.

Revaz G.

Переможець
36 0
  • Проєкти 36
  • Оцінка 5.0
  • Рейтинг 15 973

Бюджет: 700 USD Термін: 8 днів

Привіт JC,

Це класична задача MLOps, і ваша мета безпечно поділитися високопродуктивним GPU серед вашої команди — правильний підхід. Як розробник Full-Stack з глибоким досвідом у Docker та хмарній архітектурі, я можу спроектувати для вас надійну та безпечну систему.

Просто підключення контейнерів до GPU недостатньо; вам потрібне кероване, безпечне та ізольоване середовище. Ось професійна архітектура, яку я пропоную:

1. Справжня ізоляція GPU з NVIDIA MIG: для карт A6000/L40 ми використаємо NVIDIA Multi-Instance GPU (MIG). Це розділяє GPU на рівні апаратного забезпечення, надаючи кожному користувачу виділений шматок обчислень і пам’яті. Це краще за просте часове розділення, оскільки запобігає впливу навантаження одного користувача на продуктивність інших.

2. Централізована автентифікація через Traefik Reverse Proxy: я рекомендую Traefik — сучасний зворотній проксі, який безшовно інтегрується з Docker. Він буде виступати як єдина безпечна точка входу.

  • Проєкти 14
  • Оцінка 3.8
  • Рейтинг 1 371

Бюджет: 180 USD Термін: 2 дні

Привіт JC, це цікаве завдання, і я з радістю допоможу.
Я можу запропонувати чисту та масштабовану архітектуру, де кожен з ваших 4–6 користувачів запускає свій ізольований контейнер Docker мікросервісу, всі вони мають спільний доступ до одного потужного GPU (наприклад, RTX A6000 або L40).

Архітектура включатиме:

Безпечний спільний доступ до GPU (NVIDIA Container Toolkit + MIG, якщо потрібно)

Аутентифікований доступ для кожного користувача (через проксі + ім’я користувача/пароль)

Центральний проксі для контролю доступу до зовнішніх AI сервісів (забезпечуючи приватність)

  • Проєкти 20
  • Оцінка 5.0
  • Рейтинг 9 264

Бюджет: 1000 USD Термін: 10 днів

Вітаю
Маю досвід з:
- NVIDIA MIG конфігурацією
- Docker GPU sharing
- NGINX proxy setup
- Authentication системами

Можу запропонувати архітектуру на базі:
- MIG партиціонування GPU
- Docker Compose з GPU device mapping

  • Проєкти -
  • Оцінка -
  • Рейтинг 99

Бюджет: 1300 USD Термін: 8 днів

Привіт!
Цю налаштування потрібно обережно обробляти, але я можу з цим впоратися. Кожен користувач матиме приватний контейнер. Всі контейнери поділятимуть один GPU без конфліктів. Я можу налаштувати безпечний вхід, щоб доступ був лише у вашої команди. Трафік AI буде передаватися через одне захищене з'єднання, щоб зберегти ваші ключі в безпеці.
Це складне завдання, але у мене є досвід роботи з подібними системами раніше. Як тільки все буде готово, воно працюватиме гладко без особливих зусиль з вашого боку.

Ставки приховані

У списку не показані ставки, приховані замовником чи фрилансером з Plus, а також ставки, що порушують правила

Актуальні фриланс-проєкти в категорії AI та машинне навчання

11:53
5 липня
5 липня
5 липня
4 липня