Локальна RAG система

Довів до логічного стану свою локальну self-hosted RAG-систему для семантичного пошуку та генерації відповідей на основі локальних документів. Проект складається з мікросервісної архітектури, легко розгортається через Docker і інтегрується у будь-які ML/DevOps пайплайни.

документація: https://rag-api.aiforge.space/docs/
інтерфейс: https://rag-ui.aiforge.space/

Основні компоненти:

PostgreSQL + TimescaleDB — зберігання документів та векторів (pgvector).
Ollama — локальні LLM та ембеддинги для пошуку.
Vectorizer Worker — автоматична векторизація нових даних.
API (TypeScript, Express) — REST-ендпоїнти для пошуку, чату, керування документами.
UI (HTML/JS) — простий веб-інтерфейс для роботи з системою.
PgAdmin — адміністрування бази даних.
Технологічний стек:
Docker, PostgreSQL, TimescaleDB, pgvector, Ollama, TypeScript, Express, HTML/JS, Nginx.

Особливості:

Семантичний пошук та генерація відповідей через локальні LLM
Зручний веб-інтерфейс для огляду і тесту системи
Легке розгортання та масштабування

#RAG #SelfHosted #Docker #TypeScript #Ollama #PostgreSQL #pgvector #LLM #DevOps