Сервер для деплоації AI моделей
Потрібно зробити сервер для запуску AI моделей за API. На даний момент існує 2 моделі, які можна запустити консольною командою. Час виконання: 5 – 60 секунд.
Основні вимоги:
1) порядок для запитів до кожного з моделей
2) стабільність роботи
3) логінг подій сервера
Для більш досконалого розуміння, будь ласка, ознайомтеся з цими прикладами:
https://dev.to/tanmoysarkar/deploy-ai-models-with-rabbitmq-message-broker-31a3
https://towardsdatascience.com/serving-deep-learning-algorithms-as-a-service-6aa610368fde
-
501 5 1 2 Доброго дня,
Ви описали завдання, яке передбачає створення сервера для запуску AI моделей через API з наступними основними вимогами:
1. Очередь для запитів до кожної з моделей: Це важливо для розділення та управління запитами до різних моделей. Ви можете використовувати технологію черг, таку як RabbitMQ або Apache Kafka, для реалізації цієї функціональності.
2. Стабільність роботи: Забезпечення стабільності сервера включає в себе управління помилками, збереження стану запитів та можливу перезапуск моделей в разі аварії. Ви можете використовувати контейнери, такі як Docker, для ізоляції середовища моделі та Kubernetes або Docker Compose для оркестрації контейнерів.
3. Логування подій сервера: Збір та аналіз логів допоможе вам відстежувати стан сервера та виявляти помилки. Ви можете використовувати інструменти для логування, такі як ELK Stack (Elasticsearch, Logstash, Kibana) або просто логування в файл.
…
Щоб реалізувати це завдання, можемо використовувати мови програмування, такі як Python або Node.js, та фреймворки для створення API, такі як Express.js.
Напишіть мені для обговорення подальших кроків.
З повагою, Михайло!
-
682 6 0 Я б реалізував на іншому стрічці технологій, ніж ті, що зазначені в прикладах.
Flask - базовий сервер
flask_restx - розширення для побудови повноцінного додатку
Redis - брокер повідомлень
celery - для обробки фонових завдань, в тому числі по запуску AI завдань.
залишаються відкритими питаннями:
Як ви хочете побачити логінг.
- аутентифікація користувача
-
сервер уже есть?
-
Актуальні фриланс-проєкти в категорії Python
Створення Human AI Assistant для Telegram-групп### 1.1. Ключова концепція системи Система повинна виконувати дві основні функції: #### 1. Аналіз клієнтської комунікації AI-асистент має автоматично аналізувати всю комунікацію в Telegram-групах та розуміти контекст спілкування. Зокрема система повинна: - визначати… AI та машинне навчання, Python ∙ 19 годин 46 хвилин тому ∙ 34 ставки |
Чорна Україна (RP-проект на базі MTA)
51 525 UAH
|
Автоматизація розсилки повідомлень у чати TelegramПотрібно розсилати в телеграм чати повідомлення. Щоб не було банів. Чатів кілька сотень. Щоб налаштовувати періодичність і варіативність текстів. Python, Розробка ботів ∙ 20 годин 40 хвилин тому ∙ 28 ставок |
Розробка програмного забезпечення з ШІПотрібно розробити програмне забезпечення для автоматичного виявлення, захоплення та супроводження об'єкта за допомогою відеокамери та поворотного механізму.Вихідні дані: Відеокамера з оптикою. Поворотний пристрій по двох осях (азимут/кут місця). Сервоприводи з керуванням через… AI та машинне навчання, Python ∙ 2 дні 3 години тому ∙ 17 ставок |
Автоматизація процесів через API та PythonНижче описав поточний процес і те, до якого результату хотілося б прийти. Також прикладаю файли реального процесу, щоб краще зрозуміти, як він виглядає в реальності Поточний процес Зараз весь процес виконується вручну: завантаження/вивантаження файлів, перенесення даних… AI та машинне навчання, Python ∙ 2 дні 8 годин тому ∙ 44 ставки |