Zbuduj bezpieczny lokalny system AI (LLM, RAG i agenci AI)

O projekcie

Szukamy doświadczonego inżyniera automatyzacji AI, który zaprojektuje i zbuduje bezpieczną, samodzielnie hostowaną platformę AI, łączącą lokalny model językowy (LLM), generację wzbogaconą o wyszukiwanie (RAG) oraz wiele agentów AI w celu automatyzacji procesów biznesowych.

To jest praktyczna rola inżynieryjna dla kogoś, kto ma doświadczenie w budowaniu produkcyjnych systemów AI — nie tylko w integracji API ChatGPT.

Celem jest stworzenie prywatnego ekosystemu AI zdolnego do bezpiecznego indeksowania wiedzy firmy, odpowiadania na pytania z wykorzystaniem cytowanych źródeł, przetwarzania transkryptów spotkań oraz automatyzacji wewnętrznych procesów biznesowych.

Obowiązki

Będziesz odpowiedzialny za:

• Projektowanie i wdrażanie lokalnie hostowanego LLM na VPS lub dedykowanym serwerze
• Budowanie bezpiecznego pipeline'u RAG przy użyciu frameworków takich jak LlamaIndex lub podobnych
• Tworzenie pipeline'ów do wczytywania dokumentów wspierających PDF (w tym OCR), DOCX, TXT, XLSX oraz transkrypcji spotkań
• Implementację indeksowania dokumentów, zarządzania metadanymi, deduplikacji i wersjonowania
• Rozwój agentów AI do:
  • Przetwarzania transkrypcji spotkań
  • Automatycznych podsumowań spotkań
  • Ekstrakcji zadań do wykonania
  • Pobierania wiedzy o kliencie
• Budowania API lub prostego interfejsu webowego do zapytań w bazie wiedzy
• Zapewnienia ścisłej izolacji danych klientów i kontroli dostępu
• Implementacji odpowiedzi z cytatami źródłowymi, aby zminimalizować halucynacje
• Optymalizacji wydajności systemu, skalowalności i niezawodności
• Pisania dokumentacji i przewodników wdrożeniowych
• Przeprowadzania testów i walidacji bezpieczeństwa

Wymagane umiejętności

• Silne doświadczenie w programowaniu w Pythonie
• Doświadczenie z frameworkami LLM
• Doświadczenie w architekturze RAG
• LlamaIndex, LangChain lub równoważne
• Bazy danych wektorowych (Qdrant, Chroma, Pinecone, Weaviate, FAISS itp.)
• Wdrażanie lokalnych/otwartych LLM (Llama, Mistral, Gemma, DeepSeek itp.)
• Rozwój API (preferowane FastAPI)
• Docker
• Administracja serwerami Linux
• Wdrażanie VPS
• Git
• Autoryzacja i kontrola dostępu
• Doświadczenie z pipeline'ami OCR
• Doświadczenie w pracy z dokumentami strukturalnymi i niestrukturalnymi
• Znajomość języka angielskiego w mowie i piśmie

Czego szukamy

Idealny kandydat:

• Stworzył produkcyjne systemy AI od podstaw
• Rozumie najlepsze praktyki RAG
• Potrafi pracować samodzielnie
• Myśli jak architekt oprogramowania — nie tylko jako programista
• Pisze czysty, łatwy do utrzymania kod
• Komunikuje się jasno
• Może rekomendować najlepsze technologie zamiast po prostu podążać za instrukcjami

Typ projektu

• Freelance / Umowa
• Zdalnie
• Na podstawie kamieni milowych
• Długoterminowa możliwość dla przyszłych projektów automatyzacji AI

Proszę dołączyć do swojej aplikacji

• Portfolio podobnych projektów AI/RAG
• Przykłady lokalnych wdrożeń LLM lub agentów AI
• Szacowany harmonogram
• Szacowany koszt projektu
• Cennik godzinowy lub stały