Zabezpieczone dockery (4+) do współdzielenia 1 GPU.
Cześć. Szukamy kogoś, kto zaproponuje najlepszą architekturę do połączenia wielu prywatnych obrazów dockera z jednym GPU, takim jak RTX A6000 lub L40, w tym dodanie proxy do prywatnego połączenia z AI.
Chcemy, aby nasz zespół od 4 do 6 użytkowników miał indywidualne obrazy dockera naszego mikroserwisu połączone z współdzielonym GPU, do którego można uzyskać dostęp za pomocą nazwy użytkownika i hasła. Dziękuję. JC.
-
Oferta, która wygrała8 dni2546 PLNOferta, która wygrała8 dni2546 PLN
Cześć JC,
To klasyczne wyzwanie MLOps, a Twoim celem bezpiecznego udostępnienia wysokiej klasy GPU wśród zespołu jest właściwym podejściem. Jako Full-Stack Developer z głębokim doświadczeniem w Dockerze i architekturze chmurowej, mogę zaprojektować dla Ciebie solidny i bezpieczny system.
Połączenie kontenerów z GPU to za mało; potrzebujesz zarządzanego, bezpiecznego i izolowanego środowiska. Oto profesjonalna architektura, którą proponuję:
1. Prawdziwa izolacja GPU z NVIDIA MIG: Dla kart A6000/L40 użyjemy NVIDIA Multi-Instance GPU (MIG). To dzieli GPU na poziomie sprzętowym, dając każdemu użytkownikowi dedykowany fragment mocy obliczeniowej i pamięci. To jest lepsze od podstawowego podziału czasowego, ponieważ zapobiega wpływowi obciążenia jednego użytkownika na wydajność innych.
2. Centralne uwierzytelnianie przez Traefik Reverse Proxy: Zalecam Traefik, nowoczesny reverse proxy, który integruje się bezproblemowo z Dockerem. Będzie działał jako pojedynczy, bezpieczny punkt wejścia.
…
Funkcja: Wszystkie żądania użytkowników najpierw trafiają do Traefik.
Bezpieczeństwo: Traefik będzie wymuszał uwierzytelnianie użytkownika/hasła przed przekazaniem żądania do prywatnego kontenera użytkownika, zapewniając dostęp tylko uprawnionym członkom zespołu.
3. Bezpieczna usługa bramy AI: Aby chronić klucze API AI, wdrożymy dedykowaną mikroserwis "AI Gateway".
Przepływ pracy: mikroserwisy Twojego zespołu będą wykonywać wywołania AI do tej wewnętrznej bramy — nigdy nie będą przechowywać kluczy AI.
Korzyść: Ta brama jest jedynym komponentem komunikującym się z zewnętrznymi usługami AI (np. OpenAI). Centralizuje zarządzanie kluczami, zwiększa bezpieczeństwo i ułatwia monitorowanie.
Wynik końcowy:
Na potrzeby tego projektu dostarczę Ci szczegółowy dokument architektoniczny. Będzie on zawierał:
Szczegółowy diagram całego systemu.
Uzasadnienie wyboru każdej technologii.
Przykładowy plik docker-compose.yml pokazujący, jak zdefiniować i połączyć wszystkie usługi (Traefik, AI Gateway i kontenery użytkowników).
Cena za dostarczenie tego kompletnego planu architektonicznego to 450 USD, a gotowy będzie w ciągu 3 dni.
-
2 dni655 PLN
1405 14 3 1 2 dni655 PLNCześć JC, to interesujące wyzwanie i chętnie pomogę.
Mogę zaproponować czystą i skalowalną architekturę, w której każdy z Twoich 4–6 użytkowników uruchamia własny odizolowany kontener mikroserwisu Docker, wszyscy dzielą dostęp do jednego potężnego GPU (np. RTX A6000 lub L40).
Architektura będzie obejmować:
Bezpieczne dzielenie GPU (NVIDIA Container Toolkit + MIG, jeśli konieczne)
Uwierzytelniony dostęp dla każdego użytkownika (przez proxy + nazwa użytkownika/hasło)
… Centralny proxy do kontrolowania dostępu do zewnętrznych usług AI (zapewnienie prywatności)
Opcjonalną warstwę VPN dla bezpiecznego dostępu wewnętrznego
Chętnie dostarczę pełny diagram i konfigurację Dockera w ciągu dnia, wraz z instrukcjami wdrożenia i myśleniem o rozszerzalności. Omówmy szczegóły, takie jak API AI, do których chcesz się podłączyć, oraz preferowaną infrastrukturę (bare metal lub chmura).
-
10 dni3638 PLN
9351 20 0 1 10 dni3638 PLNWitam
Mam doświadczenie z:
- Konfiguracją NVIDIA MIG
- Udostępnianiem GPU w Dockerze
- Konfiguracją proxy NGINX
- Systemami uwierzytelniania
Mogę zaproponować architekturę opartą na:
- Partycjonowaniu GPU za pomocą MIG
… - Docker Compose z mapowaniem urządzeń GPU
- Odwrotnym proxy NGINX z uwierzytelnianiem
- JupyterHub do zarządzania użytkownikami
-
8 dni4729 PLN
99 8 dni4729 PLNCześć!
Ta konfiguracja wymaga ostrożnego podejścia, ale mogę się tym zająć. Każdy użytkownik będzie miał prywatny kontener. Wszystkie kontenery będą korzystać z jednego GPU bez konfliktu. Mogę ustawić bezpieczne logowanie, aby dostęp mieli tylko Twoi członkowie zespołu. Ruch AI będzie przesyłany za pomocą jednego chronionego połączenia, aby chronić Twoje klucze.
To skomplikowane zadanie, ale mam pewne doświadczenie z podobnymi systemami. Gdy będzie gotowe, będzie działać płynnie bez większego wysiłku z Twojej strony.
Aktualne zlecenia dla freelancerów w kategorii AI i uczenie maszynowe
«Automatyzacja / Chat-boty» «Konfiguracja CRM»
410 PLN
Szukam asystenta technicznego / integratora do ustawienia automatyzacji w salonie piękności. Ustawienie chatbota dla salonu piękności (Integracja Instagram + Altegio/YCLIENTS + Wahelp) z szkoleniem. Co mamy teraz: system CRM: Altegio (YCLIENTS). Główny kanał ruchu: Instagram… AI i uczenie maszynowe, Tworzenie chatbota ∙ 15 godzin 21 minut temu ∙ 21 ofert |
Automatyzacja tworzenia pionowych filmów jednego typu.Na YouTube Footula shorts - pytanie, czy możliwe jest robienie takich filmów automatycznie lub półautomatycznie (bez wskazówek w After Effects), z których każdy powinien być unikalny i trzymać się stylistyki referencji (w idealnym przypadku używać tekstur i elementów z… AI i uczenie maszynowe, AI graphic ∙ 16 godzin 3 minuty temu ∙ 6 ofert |
Potrzebna konsultacja dotycząca Figma Make i tworzenia stron internetowych, z pomocą klodu, GPT i FigmyPotrzebna konsultacja dotycząca Figma Make i tworzenia stron internetowych, z pomocą klodu, GPT i Figmy. Chcę stworzyć stronę i na razie nie mogę zrozumieć, jak poprawnie zaprojektować, co generuje GPT, zakodować klodem lub Figmą. Potrzebna osoba, która będzie mogła doradzić. AI i uczenie maszynowe, AI graphic ∙ 17 godzin 30 minut temu ∙ 6 ofert |
Stworzenie i aktywacja 54 stron SEO (WordPress + Claude Code)
1804 PLN
Stworzyć i opublikować 54 geo-landing page dla nadmorskich miast Katalonii (zapytania „wynajem samochodu [Miasto]”). Projekt, ceny i katalog samochodów wszędzie są takie same. Główną rutynę wykonuje Claude Code (połączony z witryną), twoim zadaniem jest uruchomienie AI, ręczna… AI i uczenie maszynowe, Promocja w wyszukiwarkach (SEO) ∙ 20 godzin 32 minuty temu ∙ 28 ofert |
Sztuczna inteligencja dla działu sprzedażyProdukujemy i sprzedajemy ukryte drzwi https://pro.axiomadoors.com/ Potrzebny jest AI, który będzie odpowiadał na wiadomości i telefony w godzinach poza pracą. Zgłoszenia trafiają do CRM KIPIN. Kontakty należy brać stamtąd. Należy również odpowiadać pod postami na FB Proszę… AI i uczenie maszynowe ∙ 21 godzin 53 minuty temu ∙ 21 ofert |