Захищені докери (4+) для спільного використання 1 GPU.
31 159 UAH
Привіт. Ми шукаємо когось, хто запропонує найкращу архітектуру для підключення кількох приватних образів Docker до одного GPU, наприклад RTX A6000 або L40, включаючи додавання проксі для приватного підключення до будь-якого AI.
Ми хочемо, щоб наша команда з 4-6 користувачів мала індивідуальні образи Docker нашого мікросервісу, підключені до спільного GPU, до якого можна отримати доступ за ім'ям користувача та паролем. Дякую. JC.
-
Переможець8 днів31 159 UAHПереможець8 днів31 159 UAH
Привіт JC,
Це класична задача MLOps, і ваша мета безпечно поділитися високопродуктивним GPU серед вашої команди — правильний підхід. Як розробник Full-Stack з глибоким досвідом у Docker та хмарній архітектурі, я можу спроектувати для вас надійну та безпечну систему.
Просто підключення контейнерів до GPU недостатньо; вам потрібне кероване, безпечне та ізольоване середовище. Ось професійна архітектура, яку я пропоную:
1. Справжня ізоляція GPU з NVIDIA MIG: для карт A6000/L40 ми використаємо NVIDIA Multi-Instance GPU (MIG). Це розділяє GPU на рівні апаратного забезпечення, надаючи кожному користувачу виділений шматок обчислень і пам’яті. Це краще за просте часове розділення, оскільки запобігає впливу навантаження одного користувача на продуктивність інших.
2. Централізована автентифікація через Traefik Reverse Proxy: я рекомендую Traefik — сучасний зворотній проксі, який безшовно інтегрується з Docker. Він буде виступати як єдина безпечна точка входу.
…
Функція: всі запити користувачів спершу потраплятимуть до Traefik.
Безпека: Traefik забезпечить автентифікацію користувачів за логіном і паролем перед перенаправленням будь-якого запиту до приватного контейнера користувача, забезпечуючи доступ лише авторизованим членам команди.
3. Безпечний сервіс AI Gateway: для захисту ваших ключів API штучного інтелекту ми реалізуємо спеціалізований мікросервіс "AI Gateway".
Робочий процес: мікросервіси вашої команди робитимуть виклики AI до цього внутрішнього шлюзу — вони ніколи не зберігатимуть ключі AI самі.
Перевага: цей шлюз є єдиним компонентом, що спілкується з зовнішніми сервісами AI (наприклад, OpenAI). Це централізує управління ключами, підвищує безпеку та спрощує моніторинг.
Результат:
Для цього проекту я надам вам всебічний архітектурний документ. Це включатиме:
Детальну діаграму всієї системи.
Обґрунтування кожного вибору технологій.
Приклад файлу docker-compose.yml, що демонструє, як визначені та зв’язані всі сервіси (Traefik, AI Gateway і контейнери користувачів).
Моя ціна за цю повну архітектурну документацію — 450 доларів, і я можу підготувати її для вас за 3 дні.
-
2 дні8012 UAH
1405 14 3 1 2 дні8012 UAHПривіт JC, це цікаве завдання, і я з радістю допоможу.
Я можу запропонувати чисту та масштабовану архітектуру, де кожен з ваших 4–6 користувачів запускає свій ізольований контейнер Docker мікросервісу, всі вони мають спільний доступ до одного потужного GPU (наприклад, RTX A6000 або L40).
Архітектура включатиме:
Безпечний спільний доступ до GPU (NVIDIA Container Toolkit + MIG, якщо потрібно)
Аутентифікований доступ для кожного користувача (через проксі + ім’я користувача/пароль)
… Центральний проксі для контролю доступу до зовнішніх AI сервісів (забезпечуючи приватність)
Опціональний VPN-слой для безпечного внутрішнього доступу
Я з радістю надам вам повну діаграму та налаштування Docker протягом одного дня, з інструкціями щодо розгортання та врахуванням можливості розширення. Обговоримо деталі, такі як API AI, до яких ви хочете отримати доступ, та вашу пріоритетну інфраструктуру (фізичний сервер або хмара).
-
10 днів44 513 UAH
9351 20 0 1 10 днів44 513 UAHВітаю
Маю досвід з:
- NVIDIA MIG конфігурацією
- Docker GPU sharing
- NGINX proxy setup
- Authentication системами
Можу запропонувати архітектуру на базі:
- MIG партиціонування GPU
… - Docker Compose з GPU device mapping
- NGINX reverse proxy з auth
- JupyterHub для user management
-
8 днів57 867 UAH
99 8 днів57 867 UAHПривіт!
Цю налаштування потрібно обережно обробляти, але я можу з цим впоратися. Кожен користувач матиме приватний контейнер. Всі контейнери поділятимуть один GPU без конфліктів. Я можу налаштувати безпечний вхід, щоб доступ був лише у вашої команди. Трафік AI буде передаватися через одне захищене з'єднання, щоб зберегти ваші ключі в безпеці.
Це складне завдання, але у мене є досвід роботи з подібними системами раніше. Як тільки все буде готово, воно працюватиме гладко без особливих зусиль з вашого боку.
Актуальні фриланс-проєкти в категорії AI та машинне навчання
Генерація та сегментація бази даних водіїв і транспортних компаній США
7777 UAH
Опис проектуМи — американська компанія в сфері HR / рекрутингу транспорту.Нам потрібен спеціаліст, який за допомогою штучного інтелекту та доступних data-інструментів зможе зібрати, збагачувати та сегментувати базу даних для подальшої роботи нашої команди.Що потрібно… AI та машинне навчання ∙ 1 день 8 годин тому ∙ 13 ставок |
Технічний консультант з оптимізації заліза та аудиту стабільності пам'яті
53 415 UAH
Всім привіт! Шукаю спеціаліста з комп'ютерного заліза або системного інженера, який допоможе мені розібратися з нестабільною продуктивністю мого локального сервера. Я зібрав його для робочих завдань, але, схоже, моїх аматорських знань не вистачає, щоб витиснути з нього максимум.… AI та машинне навчання ∙ 1 день 17 годин тому ∙ 7 ставок |
Автоматизація маркетингу через ШІшукаю людину (не бота), яка розбирається в AI агентах, вміє їх будувати. Під AI агентом я маю на увазі: обробка вхідних даних, запит на 1х ЛЛМ або подібну AI модель, потенційний запит MCP або подібного, потенційний запит RAG системи обробка вихідних даних І досвід має бути… AI та машинне навчання ∙ 1 день 18 годин тому ∙ 25 ставок |
Створення ІІ-АгентаНеобхідно створити AI-агента, який буде виконувати функції професійного дизайнера упаковки для бренду спортивного харчування. Агент повинен допомагати в розробці нових дизайнів продукції, створенні маркувань та адаптації існуючих макетів під різні ринки та вимоги.Основні… AI та машинне навчання, AI у дизайні ∙ 1 день 19 годин тому ∙ 27 ставок |
«Автоматизація / Чат-боти» «Налаштування CRM»
5000 UAH
Шукаю технічного асистента / інтегратора для налаштування автоматизації в салоні краси. Налаштування чат-бота для салону краси (Інтеграція Instagram + Altegio/YCLIENTS + Wahelp) з навчанням Що маємо зараз: CRM-система: Altegio (YCLIENTS). Основний канал трафіку: Instagram Direct… AI та машинне навчання, Розробка ботів ∙ 2 дні 15 годин тому ∙ 34 ставки |
San Francisco