Бюджет: 4000 USD Термін: 14 днів
Створення багатокористувацької платформи підтримки на базі штучного інтелекту, де кожна розмова проходить через LLM, фіксується та впливає на показники якості — архітектурне рішення, яке має найбільше значення тут, це чи буде шар ШІ синхронним (підходить для низького обсягу) чи асинхронним з чергою завдань, як-от Celery + Redis, з чим я б пішов, щоб впоратися з піковим навантаженням без блокування відповідей FastAPI.
Конкретний план: додаток FastAPI з асинхронними кінцевими точками, PostgreSQL для структурованих даних (розмови, агенти, квитки) плюс pgvector для семантичного пошуку по вашій базі знань. Виклики API OpenAI проходять через чергу робіт з логікою повторних спроб та ідемпотентними ключами, щоб невдалий вебхук ніколи не стягував плату двічі або не втратив повідомлення. Docker Compose локально, ECS або Fargate на AWS у продакшені, з секретами в Parameter Store.
Один ризик, який може пропустити молодший спеціаліст: обмеження швидкості OpenAI під час одночасного навантаження. Я б додав обмежувач швидкості з токенами для кожного користувача та плавний резервний варіант до стандартної відповіді, щоб платформа залишалася чутливою навіть коли API обмежує.
Який очікуваний обсяг одночасних користувачів, і чи потрібно вам інтегрувати синтез голосу з першого дня, чи це функція другого етапу?
