Створити безпечну локальну AI систему (LLM, RAG та AI агенти)

Бюджет: 2000 UAH Термін: 1 день

Вітаю!
Мене звати Олег, я проектний менеджер компанії Business Atlas Automation (BAA). Ми є офіційними партнерами n8n та розробляємо приватні Production AI-системи, RAG-пайплайни і мультиагентні екосистеми з суворими вимогами до безпеки даних.
Наш технічний досвід та стек:
Локальні LLM & VPS: Розгортаємо та оптимізуємо open-source моделі (Llama 3, Mistral, DeepSeek) через Ollama у Docker-контейнерах на приватному серверному середовищі (Hetzner, AWS).
RAG & Векторні бази: Будуємо RAG-архітектуру на LlamaIndex / LangChain із векторними сховищами (Qdrant, ChromaDB, Pinecone), реалізуємо індексацію, дедуплікацію та версіонування з обов'язковим цитуванням джерел.
OCR & Обробка документів: Створюємо пайплайни для парсингу неструктурованих PDF, DOCX, XLSX та стенограм зустрічей (Whisper + LlamaIndex).
Бекенд та Безпека: Розробляємо API на Python (FastAPI), налаштовуємо ізоляцію даних та рольовий контроль доступу.
Релевантний досвід у портфоліо:
1. Smobile (Private AI Pipeline): Self-hosted інфраструктура (n8n + Ollama + ChromaDB) для обробки каталогу в 1700+ SKU з дотриманням 100% конфіденційності.
2. BikeNow Support Agent: RAG-система на базі локальних знань компанії, що автоматично обробляє понад 41% звернень із посиланнями на джерела.
3. Мультиагентна система (Python/Redis): Команда з 4 спеціалізованих ШІ-агентів для обробки, аналізу та резюмування великих масивів інформації.
Напишіть мені в особисті повідомлення, щоб обговорити деталі. Розгорнути

Бюджет: 12000 UAH Термін: 6 днів

Прочитайте бриф: самостійно розгорнута платформа, що поєднує локальну LLM, RAG з цитованими джерелами на основі документів компанії та агентів для транскрипцій зустрічей, резюме, дій та отримання знань клієнтів, з суворою ізоляцією даних між клієнтами.

Я раніше реалізував виробничу систему RAG: голосовий AI асистент для ветеринарних клінік, FastAPI на передньому плані для отримання та оркестрації, Qdrant як векторне сховище, та LLM, що викликає інструменти в CRM під час дзвінків, наразі обслуговуючи реальні клініки. Бокова частина з мультиформатним завантаженням, PDF з OCR, DOCX, XLSX, транскрипції зустрічей, з дедуплікацією та версіонуванням, є новою територією в цій точній комбінації, але це та ж сама форма проблеми: нормалізація вхідних даних, розбиття, вбудовування, індексація, отримання з цитуваннями. Я б побудував це так само дисципліновано, самостійно розгорнуто від початку до кінця, FastAPI для API-слою, Docker для розгортання на вашому VPS або виділеному сервері, та локальний модельний виконуваний файл, адаптований до будь-якого апаратного забезпечення, яке у вас є.

Для шару агентів я б зберіг обробку транскрипцій, резюмування та видобуток дій як окремі, незалежно тестовані етапи, а не одну велику ланцюг запитів, щоб невдачі були відстежувані, і кожен елемент можна було налаштувати без втручання в інші. Ізоляцію даних клієнтів я б забезпечив на самому рівні отримання, а не лише контролю доступу API, окремі колекції або простори імен для кожного клієнта, щоб запит не міг перетинати межі орендарів навіть випадково.

Дві речі, які змінюють фактичну побудову: яке апаратне забезпечення доступне для моделі, GPU та VRAM або лише CPU, і приблизно скільки документів та клієнтів ви індексуєте на момент запуску в порівнянні з подальшим зростанням. Вказаний бюджет не відповідає цьому обсягу, радий почати з обмеженого першого етапу, завантаження плюс RAG з цитуваннями, розгорнутого та тестованого на реальних запитаннях, і оцінити шар агентів, коли це запрацює.

Бюджет: 27000 UAH Термін: 15 днів

Вітаю. Можу реалізувати даний проект. Якщо актуально - пишіть, обговоримо.

Вартість - $3000 за проект.

Бюджет: 700 UAH Термін: 7 днів

Доброго дня, Anastasia!

У мене є досвід у створенні безпечних AI-платформ, що об'єднують локальні LLM, RAG та AI-агенти для автоматизації бізнес-процесів.

Розумію, що вам потрібен надійний AI Automation Engineer для розробки платформи, яка зможе безпечно індексувати знання компанії, обробляти транскрипції зустрічей та автоматизувати внутрішні процеси. Це важливе завдання, і я готовий запропонувати свої знання для досягнення ваших цілей.

Щоб розробити конкретну стратегію, потрібно вивчити ваші вимоги та цілі. Пропоную спочатку обговорити деталі проекту, щоб зрозуміти, які саме функції та технології будуть найкращими для вашої платформи.

Попередня оцінка моїх послуг - від 400$ на місяць. Залежно від складності проекту, терміни можуть варіюватися від 2 до 8 місяців.

В моєму портфоліо є приклади реалізації подібних проектів, які демонструють мій підхід до створення AI-систем. Запрошую вас ознайомитися з ними.

Пропоную перейти до обговорення вашого проекту в приватних повідомленнях, щоб детально розглянути ваші потреби та план дій. Розгорнути

Бюджет: 700 UAH Термін: 3 дні

Привіт. Чи ви вже визначилися з конкретною open-source LLM для локального розгортання, чи плануєте обрати її під час старту проєкту? Терміни та бюджет уточню в особистому листуванні.

Ось як я виконаю цей проєкт:
1. Я розгорну локальний LLM на VPS з використанням Docker та оптимізую його для ваших завдань.
2. Я побудую RAG-пайплайн на LlamaIndex з векторною базою Qdrant, індексацією PDF, DOCX, TXT, XLSX та OCR.
3. Я створю AI-агентів для обробки транскрипцій нарад, витягування дій та пошуку знань, а також FastAPI-інтерфейс з контролем доступу.

Дякую за розгляд моєї пропозиції. Я з нетерпінням чекаю можливості співпраці з вами!

Бюджет: 700 UAH Термін: 1 день

Привіт, Анастасіє,

Це близько до того, що я вже побудував. Мій настільний AI асистент працює на основі ручного циклу агента та RAG конвеєра, який я написав з нуля — розбиття, векторні представлення, гібридне оцінювання за ключовими словами + семантичне оцінювання — без LangChain. Він працює з локальними моделями через Ollama, а також з хостинговими API, тому повністю самостійна установка є стандартним випадком, а не адаптацією.

Перед тим, як озвучити повну вартість системи, мені потрібно зрозуміти обмеження:

Яке обладнання буде хостити модель — доступна GPU, скільки VRAM? Це визначає, яка модель є реалістичною.
Обсяг і формат бази знань — скільки документів, PDF/DOCX/електронна пошта/вікі?
Скільки користувачів, і чи потрібен доступ до документів на основі ролей?
Транскрипти зустрічей — чи є у вас вже вони у текстовому форматі, чи є транскрипція частиною обсягу?
Які внутрішні процеси повинні автоматизувати агенти — чи можете назвати два конкретні?

Моя пропозиція: почати з Етапу 1 — працюючий самостійний RAG над вашими документами з посиланнями на джерела, розгорнутий на вашій інфраструктурі. 12,000 грн, 6 робочих днів. Ви отримаєте працюючу систему, яку зможете протестувати на реальних запитаннях перед тим, як зобов'язатися до решти.

Агенти та обробка транскриптів — це Етап 2, ціна буде визначена після того, як Етап 1 покаже, як ваші дані насправді поводяться.

Бюджет у 700 грн не відповідає описаному обсягу — я припускаю, що це заповнювач. Якщо реальний бюджет фіксований і значно нижчий, скажіть мені зараз, і ми обидва заощадимо час.

Код: github.com/kamedashe Розгорнути