Lokalny system RAG

Doprowadzić do logicznego stanu swoją lokalną self-hosted RAG-system do wyszukiwania semantycznego i generowania odpowiedzi na podstawie lokalnych dokumentów. Projekt składa się z architektury mikroserwisowej, łatwej do wdrożenia przez Docker i integracji z dowolnymi pipeline'ami ML/DevOps.

dokumentacja: https://rag-api.aiforge.space/docs/
interfejs: https://rag-ui.aiforge.space/

Główne komponenty:

PostgreSQL + TimescaleDB — przechowywanie dokumentów i wektorów (pgvector).
Ollama — lokalne LLM i embedowania do wyszukiwania.
Vectorizer Worker — automatyczna wektoryzacja nowych danych.
API (TypeScript, Express) — REST-API do wyszukiwania, czatu, zarządzania dokumentami.
UI (HTML/JS) — prosty interfejs webowy do obsługi systemu.
PgAdmin — administracja bazą danych.
Technologiczny stos:
Docker, PostgreSQL, TimescaleDB, pgvector, Ollama, TypeScript, Express, HTML/JS, Nginx.

Cechy:

Semantyczne wyszukiwanie i generowanie odpowiedzi przez lokalne LLM
Wygodny interfejs webowy do przeglądania i testowania systemu
Łatwe wdrożenie i skalowanie

#RAG #SelfHosted #Docker #TypeScript #Ollama #PostgreSQL #pgvector #LLM #DevOps