Бюджет: 4000 USD Срок: 14 дней
Создание многопользовательской платформы поддержки на основе ИИ, где каждый разговор проходит через LLM, регистрируется и возвращается в метрики качества — архитектурное решение, которое здесь имеет наибольшее значение, это то, является ли слой ИИ синхронным (подходит для низкого объема) или асинхронным с очередью задач, такой как Celery + Redis, что я бы выбрал для обработки всплесков нагрузки без блокировки ответов FastAPI.
Конкретный план: приложение FastAPI с асинхронными конечными точками, PostgreSQL для структурированных данных (разговоры, агенты, заявки) плюс pgvector для семантического поиска по вашей базе знаний. Вызовы API OpenAI проходят через очередь рабочих с логикой повторных попыток и ключами идемпотентности, чтобы неудавшийся вебхук никогда не взимал двойную плату или не терял сообщение. Docker Compose локально, ECS или Fargate на AWS в продакшене, с секретами в Parameter Store.
Один риск, который может упустить новичок: ограничения по количеству запросов OpenAI при одновременной нагрузке. Я бы добавил ограничитель скорости с токенами для каждого арендатора и плавный переход к заранее подготовленному ответу, чтобы платформа оставалась отзывчивой, даже когда API ограничивает запросы.
Каков ожидаемый объем одновременных пользователей, и нужно ли вам интегрировать синтез речи с первого дня или это функция второго этапа?
