Розробка Highload системи з тонкою налаштуванням моделей LLM

Бюджет: 7600 USD Термін: 45 днів

Дивіться, тут нюанс - це не задача про просто чат-бота, а продуктова система пошуку, де ціна помилки в архітектурі висока =/

По термінам я б закладав перший безпечний етап на 45 днів і 7600 USD - проектування, перевірка мультимодального пошуку на ваших товарах, прототип агента в месенджерах, схема даних, черга обробки фото, метрики якості пошуку і план дообучення моделі. Повна розробка вже залежить від навантаження і каталогу, скоріше за все це окремий бюджет від 20000 USD.

Бачення реалізації таке -
> нормалізуємо каталог, атрибути, фото і тексти товарів
> будуємо мультимодальний пошук - векторний індекс, ранжування, фільтри, перевірка релевантності
> робимо агента в месенджерах, який уточнює запит, показує варіанти і передає подію в адмінку
> окремо рахунемо якість пошуку і дані для дообучення, інакше модель буде красиво відповідати, але продавати слабше

Від вас на старті потрібні каталог товарів, приклади фото, опис цільових месенджерів і хоча б груба оцінка пікових навантажень. В цілому нормально йти не з великої будівлі, а з перевіреного етапу - спочатку довести якість пошуку на реальних товарах.

Уточню 2 речі -
> який обсяг каталогу - товарів, фото, мов, оновлень на день
> дообучення LLM дійсно обов'язкове чи можна почати з мультимодальних ембеддингів, ранжування і RAG, а fine tuning залишити після накопичення навчальних прикладів

З близького досвіду -
> https://business.ingello.com/vorfahr - ІІ-сервіс, робота з фото, генерацією контенту і продуктовою логікою
> https://business.ingello.com/fractal - агентна архітектура і автоматизація складних робочих процесів
> https://business.ingello.com/prime-eva - товарні дані, виробництво, інтеграції і облік

Головна сторінка команди для FLH -
> https://systems-fl.ingello.com Розгорнути

Бюджет: 1900 USD Термін: 33 дні

Добрий день. Завдання зрозуміле: мультимодальний пошук товарів, коли запит йде і фото, і текстом одночасно, плюс агент-асистент, який живе в месенджерах і спілкується з користувачем, і все це повинно витримувати навантаження.

По архітектурі бачу це так. Мультимодальну частину будуємо на загальних ембеддингах для зображення і тексту, щоб фото і текстовий запит потрапляли в одне векторне простір і ранжування йшло по близькості. Під це лягає векторна база (працював з Qdrant в продакшені) і шар переранжування вже поверх кандидатів. Fine tuning потрібен там, де готова модель промахується по вашій номенклатурі: дообучаємо на ваших парах товар і запит, а не чіпаємо все підряд.

Агент в месенджерах у мене близький досвід: робив голосового AI-асистента для клінік, де LLM був оркестратором діалогу з tool use і пошуком по базі знань через RAG, і платформу з семантичним пошуком по контенту в Telegram. Highload частину закриваю асинхронним Python (FastAPI), чергами і кешуванням гарячих запитів.

Щоб прицілитися по навантаженню і вартості: який порядок каталогу і скільки запитів в пік очікуєте, і в яких саме месенджерах повинен жити агент? Від цього залежить вибір моделі і інфраструктури.

Бюджет: 12500 USD Термін: 45 днів

Привіт, Нік. Готові зробити автоматизацію та агентів, які будуть її контролювати/допрацьовувати. Пиши в ЛС, не витрачай час даремно.

Бюджет: 100 USD Термін: 5 днів

Доброго дня.

Бачу, що вам потрібна не просто інтеграція LLM, а highload-система мультимодального пошуку з дообученням моделей, здатна обробляти фото та текстові запити через AI-асистента в месенджерах без втрати якості та швидкості.

Працював зі схожими AI-проектами: створював AI-консультантів, системи автоматизації на базі ChatGPT/Claude, інтеграції через Make.com, Voiceflow, Chatfuel та CRM-екосистеми, де ключовим завданням була обробка великих обсягів запитів, маршрутизація даних та побудова масштабованої архітектури.

Для такого проекту критично продумати не тільки fine-tuning моделей, але й увесь пайплайн: обробку зображень, векторний пошук, RAG-архітектуру, кешування, черги завдань, моніторинг навантаження та роботу агента в месенджерах. Один з ефективних підходів — розділити пошук, інференс та комунікаційний шар на незалежні сервіси для горизонтального масштабування.

Підкажіть, плануєте використовувати готові open-source моделі (LLaMA, Qwen, Gemma) чи розглядаєте навчання власної моделі під каталог товарів?

Бюджет: 2500 USD Термін: 30 днів

Доброго дня.

Сильні AI-системи починаються не з fine-tuning, а з правильної архітектури. Готовий запропонувати рішення, яке буде працювати під навантаженням сьогодні і не вимагатиме переписування завтра.

Буду радий обговорити проект.

Бюджет: 25 USD Термін: 1 день

Привіт, Ніку,

Це цілком моя сфера: пошук на основі ШІ, зображення та асистенти-агенти в месенджерах. Один чесний перегляд на початку, оскільки це змінює бюджет.

"Мультимодальний пошук фото + тексту" зазвичай не потребує тонкої настройки LLM. Основою пошуку є векторні вбудування зображень + тексту (стиль CLIP), проіндексовані в векторній базі даних (pgvector або Qdrant) з гібридним фільтруванням та повторним ранжуванням. Це забезпечує високу релевантність у вашому каталозі без витрат і крихкості навчання. Справжня тонка настройка виправдовує себе лише тоді, коли ми вимірюємо загальні вбудування, які погано працюють на ваших конкретних продуктах, і тоді це цілеспрямовано, а не для всього ядра.

Фактична робота LLM полягає в агентному шарі в месенджері: уточнити запит, викликати інструмент пошуку, представляти картки продуктів. Це виклик функцій/RAG, а не механізм отримання.

Як я б це побудував:
- Завантажити каталог (фото, текст, атрибути), вбудувати, проіндексувати в векторній базі даних
- Гібридний пошук (вектор + атрибутивні фільтри) з повторним ранжуванням
- Агент у Telegram/WhatsApp через Bot API: фото або текст на вході, картки в порядку ранжування на виході
- Подія-орієнтована черга для обробки фото та пікових навантажень, щоб нічого не втрачалося під навантаженням

Щоб зменшити ризики, я б почав з короткого платного дослідження + прототипу на частині вашого реального каталогу, виміряного за recall@k, перш ніж зобов'язатися до побудови з високим навантаженням. Це спочатку доводить якість на ваших даних.

Відповідна робота: я побудував інформаційну панель на приватній платформі інференції GPU (FastAPI, векторна пам'ять, живий стан моделі), випустив функції LLM у виробництво та пошук через vision-API, а також події-орієнтовані боти в месенджерах. Приклади в приватному порядку. 36 проектів на Freelancehunt, всі 100%, 10/10.

Три питання для визначення обсягу: розмір каталогу, цільове навантаження (запити/хв), і який месенджер першим? І чи є існуючий API каталогу? Розгорнути

Бюджет: 165 USD Термін: 1 день

Доброго дня, Nick.

Коротко:

Ваш сервіс отримає мультимодальний пошук, здатний одночасно обробляти фото- та текстові запити через персонального агента в Telegram або WhatsApp. Пошукове ядро на базі fine-tuned LLM та vision-моделей забезпечить високу точність результатів. Текстовий пошук підсилимо векторним індексом pgvector, щоб миттєво знаходити схожі товари навіть за неповним описом. Система працюватиме на Kubernetes з автоматичним масштабуванням, тож пікові навантаження не вплинуть на швидкість. Інтеграція через месенджери дозволить користувачам надсилати фото й текст у чат, а асистент повертатиме підбірку товарів з вашого каталогу. Fine-tuning на ваших даних гарантує точність, недосяжну для загальних моделей.

Детальніше:

Мультимодальний пошук вимагає глибокого fine-tuning LLM під ваш каталог, інакше релевантність залишиться на рівні generic-моделей. Пошукове ядро поєднає base-модель із донавчанням на ваших даних і векторний індекс pgvector для семантичного пошуку. Vision-компонент витягуватиме ознаки з фото, а текст уточнюватиме контекст — обидва потоки зливатимуться в єдиний ranked-результат. Архітектура на Kubernetes із незалежним масштабуванням нод (vision, text, ranking) забезпечить стабільну латентність. Event-driven архітектура з чергами повідомлень захистить від втрати запитів під час спайків трафіку, а користувач отримуватиме картки товарів із прямими посиланнями.

Наступним кроком точність пошуку можна підвищити завдяки гібридному підходу RAG із fine-tuning. Це дозволить агенту миттєво актуалізувати знання про залишки та ціни без перенавчання моделі, що критично для динамічного e-commerce-каталогу.

Ще пізніше конверсія зросте завдяки аналітичному модулю, який відстежуватиме найпопулярніші візуальні запити. Ви отримаєте чітке розуміння того, що саме шукають користувачі, для оптимізації закупівель і маркетингу.

Готовий обговорити деталі каталогу, обсяги запитів і вибір базової моделі для fine-tuning. Розгорнути

Бюджет: 1300 USD Термін: 45 днів

Ми маємо досвід побудови Highload-архітектур та дообучення LLM для мультимодальних завдань. Реалізуємо систему через мікросервіси на Python з використанням векторних баз даних для швидкого пошуку та інтеграцією API месенджерів для роботи агента. Забезпечимо масштабованість та точність обробки запитів по фото та тексту. Готові розпочати проектування архітектури.

Бюджет: 25000 USD Термін: 35 днів

У нас вже є практично готове схоже рішення для ІІ-пошуку та асистента в месенджерах, його можна швидко адаптувати та запустити під ваш каталог ))
По задачі я б закладав перший робочий етап від 250000 грн і близько 35 робочих днів для прототипу з пошуком по фото та тексту, ранжуванням, агентом і базовою інтеграцією в месенджери.
Дивіться, тут нюанс - для промислової версії важливо заздалегідь перевірити !!навантаження, якість пошуку та структуру каталогу!!, інакше fine tuning може стати дорогою іграшкою без помітного виграшу.
По реалізації я б йшов через шар даних, векторний і текстовий пошук, окремий шар ранжування, сценарії агента, журналювання запитів і метрики якості видачі на стороні сервісу.
Від вас потрібні вивантаження каталогу, фото, описи, правила видачі, список месенджерів і доступи до тестового API.
Уточню два моменти - який розмір каталогу і яка цільова навантаження в запитах на хвилину?
Які месенджери потрібні в першому запуску і чи є вже API каталогу?
З подібного по ІІ та агентам - https://business.ingello.com/vorfahr і https://business.ingello.com/fractal
Як близький приклад по e-commerce та каталогічній логіці - https://business.ingello.com/prime-eva
Більше про нас для біржі - https://systems-fl.ingello.com
На зв'язку, можемо обговорити деталі в рамках проекту =) Розгорнути