Створити безпечну локальну AI систему (LLM, RAG та AI агенти)

Про проект

Ми шукаємо досвідченого інженера з автоматизації на базі ШІ для розробки та створення безпечної, самостійно розміщеної платформи ШІ, яка поєднує локальну модель великої мови (LLM), генерацію з підкріпленням (RAG) та кілька агентів ШІ для автоматизації бізнес-процесів.

Це практична інженерна роль для тих, хто має досвід створення виробничих систем ШІ, а не просто інтеграції API ChatGPT.

Мета полягає в створенні приватної екосистеми ШІ, здатної безпечно індексувати знання компанії, відповідати на запитання, використовуючи цитовані джерела, обробляти стенограми зустрічей та автоматизувати внутрішні бізнес-процеси.

Обов'язки

Ви будете відповідальні за:

• Проектування та розгортання локально розміщеної LLM на VPS або виділеному сервері
• Створення безпечного RAG-пайплайна, використовуючи такі фреймворки, як LlamaIndex або подібні
• Створення пайплайнів для завантаження документів, що підтримують PDF (включаючи OCR), DOCX, TXT, XLSX та стенограми зустрічей
• Реалізацію індексації документів, управління метаданими, видалення дублікатів та версійності
• Розробку агентів ШІ для:
  • Обробки стенограм зустрічей
  • Автоматичних резюме зустрічей
  • Витягування дій
  • Отримання знань клієнтів
• Створення API або простого веб-інтерфейсу для запитів до бази знань
• Забезпечення суворої ізоляції даних клієнтів та контролю доступу
• Реалізацію відповідей з цитуванням джерел для мінімізації галюцинацій
• Оптимізацію продуктивності системи, масштабованості та надійності
• Написання документації та посібників з розгортання
• Виконання тестування та перевірки безпеки

Необхідні навички

• Сильний досвід розробки на Python
• Досвід роботи з фреймворками LLM
• Досвід архітектури RAG
• LlamaIndex, LangChain або еквівалент
• Векторні бази даних (Qdrant, Chroma, Pinecone, Weaviate, FAISS тощо)
• Локальне/відкрите розгортання LLM (Llama, Mistral, Gemma, DeepSeek тощо)
• Розробка API (перевага надається FastAPI)
• Docker
• Адміністрування серверів Linux
• Розгортання VPS
• Git
• Аутентифікація та контроль доступу
• Досвід роботи з пайплайнами OCR
• Досвід роботи зі структурованими та неструктурованими документами
• Вільне володіння англійською мовою

Що ми шукаємо

Ідеальний кандидат:

• Створив виробничі системи ШІ з нуля
• Розуміє найкращі практики RAG
• Може працювати самостійно
• Думає як архітектор програмного забезпечення, а не лише як розробник
• Пише чистий, підтримуваний код
• Чітко спілкується
• Може рекомендувати найкращі технології, а не просто слідувати інструкціям

Тип проекту

• Фріланс / Контракт
• Віддалена робота
• На основі етапів
• Довгострокова можливість для майбутніх проектів з автоматизації ШІ

Будь ласка, включіть у вашу заявку

• Портфоліо подібних проектів ШІ/RAG
• Приклади реалізації локальних LLM або агентів ШІ
• Оцінка термінів
• Оцінка вартості проекту
• Погодинна або фіксована ціна