Revaz G.
Oferta, która wygrałaBudżet: 700 USD Termin: 8 dni
Cześć JC,
To klasyczne wyzwanie MLOps, a Twoim celem bezpiecznego udostępnienia wysokiej klasy GPU wśród zespołu jest właściwym podejściem. Jako Full-Stack Developer z głębokim doświadczeniem w Dockerze i architekturze chmurowej, mogę zaprojektować dla Ciebie solidny i bezpieczny system.
Połączenie kontenerów z GPU to za mało; potrzebujesz zarządzanego, bezpiecznego i izolowanego środowiska. Oto profesjonalna architektura, którą proponuję:
1. Prawdziwa izolacja GPU z NVIDIA MIG: Dla kart A6000/L40 użyjemy NVIDIA Multi-Instance GPU (MIG). To dzieli GPU na poziomie sprzętowym, dając każdemu użytkownikowi dedykowany fragment mocy obliczeniowej i pamięci. To jest lepsze od podstawowego podziału czasowego, ponieważ zapobiega wpływowi obciążenia jednego użytkownika na wydajność innych.
2. Centralne uwierzytelnianie przez Traefik Reverse Proxy: Zalecam Traefik, nowoczesny reverse proxy, który integruje się bezproblemowo z Dockerem. Będzie działał jako pojedynczy, bezpieczny punkt wejścia.
Funkcja: Wszystkie żądania użytkowników najpierw trafiają do Traefik.
Bezpieczeństwo: Traefik będzie wymuszał uwierzytelnianie użytkownika/hasła przed przekazaniem żądania do prywatnego kontenera użytkownika, zapewniając dostęp tylko uprawnionym członkom zespołu.
3. Bezpieczna usługa bramy AI: Aby chronić klucze API AI, wdrożymy dedykowaną mikroserwis "AI Gateway".
Przepływ pracy: mikroserwisy Twojego zespołu będą wykonywać wywołania AI do tej wewnętrznej bramy — nigdy nie będą przechowywać kluczy AI.
Korzyść: Ta brama jest jedynym komponentem komunikującym się z zewnętrznymi usługami AI (np. OpenAI). Centralizuje zarządzanie kluczami, zwiększa bezpieczeństwo i ułatwia monitorowanie.
Wynik końcowy:
Na potrzeby tego projektu dostarczę Ci szczegółowy dokument architektoniczny. Będzie on zawierał:
Szczegółowy diagram całego systemu.
Uzasadnienie wyboru każdej technologii.
Przykładowy plik docker-compose.yml pokazujący, jak zdefiniować i połączyć wszystkie usługi (Traefik, AI Gateway i kontenery użytkowników).
Cena za dostarczenie tego kompletnego planu architektonicznego to 450 USD, a gotowy będzie w ciągu 3 dni.