Rozwój systemu Highload z fine tuning modeli LLM

Budżet: 7600 USD Termin: 45 dni

Patrzcie, jest tu niuans - to nie jest zadanie dotyczące prostego chatbota, lecz produktowy system wyszukiwania, gdzie cena błędu w architekturze jest wysoka =/

Co do terminów, zakładałbym pierwszy bezpieczny etap na 45 dni i 7600 USD - projektowanie, sprawdzenie multimodalnego wyszukiwania na waszych produktach, prototyp agenta w komunikatorach, schemat danych, kolejka przetwarzania zdjęć, metryki jakości wyszukiwania i plan dalszego uczenia modelu. Pełny rozwój już zależy od obciążenia i katalogu, najprawdopodobniej to osobny budżet od 20000 USD.

Wizja realizacji jest taka -
> normalizujemy katalog, atrybuty, zdjęcia i opisy produktów
> budujemy multimodalne wyszukiwanie - wektorowy indeks, ranking, filtry, sprawdzenie trafności
> robimy agenta w komunikatorach, który precyzuje zapytanie, pokazuje opcje i przekazuje zdarzenie do panelu administracyjnego
> osobno liczymy jakość wyszukiwania i dane do dalszego uczenia, w przeciwnym razie model będzie ładnie odpowiadał, ale sprzedawał słabiej

Od was na starcie potrzebne są katalog produktów, przykłady zdjęć, opis docelowych komunikatorów i przynajmniej szacunkowa ocena szczytowych obciążeń. Generalnie dobrze jest nie zaczynać od dużej budowy, a od weryfikowanego etapu - najpierw udowodnić jakość wyszukiwania na rzeczywistych produktach.

Uściślę 2 rzeczy -
> jaki jest zakres katalogu - produktów, zdjęć, języków, aktualizacji dziennie
> czy dalsze uczenie LLM jest rzeczywiście konieczne, czy można zacząć od multimodalnych embeddingów, rankingu i RAG, a fine tuning zostawić na później po zgromadzeniu przykładów do nauki

Z bliskiego doświadczenia -
> https://business.ingello.com/vorfahr - usługa AI, praca ze zdjęciami, generowaniem treści i logiką produktową
> https://business.ingello.com/fractal - architektura agentowa i automatyzacja złożonych procesów roboczych
> https://business.ingello.com/prime-eva - dane produktowe, produkcja, integracje i księgowość

Strona główna zespołu dla FLH -
> https://systems-fl.ingello.com Rozwiń

Budżet: 1900 USD Termin: 33 dni

Dzień dobry. Zadanie jest jasne: multimodalne wyszukiwanie produktów, gdy zapytanie idzie zarówno w formie zdjęcia, jak i tekstu jednocześnie, plus agent-asystent, który żyje w komunikatorach i komunikuje się z użytkownikiem, a wszystko to powinno wytrzymać obciążenie.

Widziałbym to w architekturze tak. Część multimodalna budujemy na wspólnych embeddingach dla obrazu i tekstu, aby zdjęcie i zapytanie tekstowe trafiały do jednego przestrzeni wektorowej, a ranking odbywał się na podstawie bliskości. Pod to kładzie się baza wektorowa (pracowałem z Qdrant w produkcji) i warstwa ponownego rankingu już nad kandydatami. Fine tuning jest potrzebny tam, gdzie gotowy model myli się w twojej nomenklaturze: douczamy na twoich parach produkt i zapytanie, a nie ruszamy wszystkiego.

Agent w komunikatorach mam bliskie doświadczenie: robiłem głosowego asystenta AI dla klinik, gdzie LLM był orkiestratorem dialogu z użyciem narzędzi i wyszukiwaniem w bazie wiedzy przez RAG, oraz platformę z semantycznym wyszukiwaniem treści w Telegramie. Część highload zamykam asynchronicznym Pythonem (FastAPI), kolejkami i cachowaniem gorących zapytań.

Aby celować w obciążenie i koszt: jaki porządek katalogu i ile zapytań w szczycie oczekujesz, i w jakich dokładnie komunikatorach powinien żyć agent? Od tego zależy wybór modelu i infrastruktury.

Budżet: 12500 USD Termin: 45 dni

Cześć, Nik. Jesteś gotowy, aby zrobić automatyzację i agentów, którzy będą ją kontrolować/udoskonalać. Napisz na priv, nie trać czasu na próżno.

Budżet: 100 USD Termin: 5 dni

Witam.

Widzę, że potrzebujesz nie tylko integracji LLM, ale systemu highload do multimodalnego wyszukiwania z dalszym uczeniem modeli, zdolnego do przetwarzania zdjęć i tekstowych zapytań przez asystenta AI w komunikatorach bez utraty jakości i szybkości.

Pracowałem nad podobnymi projektami AI: tworzyłem konsultantów AI, systemy automatyzacji oparte na ChatGPT/Claude, integracje przez Make.com, Voiceflow, Chatfuel oraz ekosystemy CRM, gdzie kluczowym zadaniem było przetwarzanie dużych ilości zapytań, routowanie danych i budowanie skalowalnej architektury.

Dla takiego projektu kluczowe jest przemyślenie nie tylko fine-tuningu modeli, ale także całego pipeline'u: przetwarzania obrazów, wyszukiwania wektorowego, architektury RAG, cache'owania, kolejek zadań, monitorowania obciążenia i pracy agenta w komunikatorach. Jednym z efektywnych podejść jest podział wyszukiwania, inferencji i warstwy komunikacyjnej na niezależne usługi w celu poziomego skalowania.

Proszę powiedzieć, czy planujecie używać gotowych modeli open-source (LLaMA, Qwen, Gemma), czy rozważacie szkolenie własnego modelu pod katalog produktów?

Budżet: 2500 USD Termin: 30 dni

Cześć.

Silne systemy AI zaczynają się nie od fine-tuningu, a od odpowiedniej architektury. Chętnie zaproponuję rozwiązanie, które będzie działać pod obciążeniem dzisiaj i nie będzie wymagało przepisywania jutro.

Będę zadowolony, mogąc omówić projekt.

Budżet: 25 USD Termin: 1 dzień

Cześć Nick,

To jest zdecydowanie moja dziedzina: wyszukiwanie AI, wizja i asystenci agentów w komunikatorach. Jedno szczere przemyślenie na początku, ponieważ zmienia to budżet.

"Wielomodalne wyszukiwanie zdjęć + tekstu" zazwyczaj nie wymaga dostrajania LLM. Rdzeń wyszukiwania to osadzenia obrazów + tekstu (w stylu CLIP) indeksowane w bazie danych wektorowej (pgvector lub Qdrant) z hybrydowym filtrowaniem i ponownym rankingiem. To zapewnia silną trafność w Twoim katalogu bez kosztów i kruchości związanych z treningiem. Prawdziwe dostrajanie ma sens tylko wtedy, gdy mierzymy ogólne osadzenia, które wypadają słabo w przypadku Twoich konkretnych produktów, a wtedy jest to ukierunkowane, a nie całkowity rdzeń.

Rzeczywista rola LLM to warstwa agenta w komunikatorze: wyjaśnienie zapytania, wywołanie narzędzia wyszukiwania, prezentacja kart produktów. To wywoływanie funkcji/RAG, a nie silnik wyszukiwania.

Jak bym to zbudował:
- Wczytanie katalogu (zdjęcia, tekst, atrybuty), osadzenie, indeksowanie w bazie danych wektorowej
- Hybrydowe wyszukiwanie (wektor + filtry atrybutów) z ponownym rankingiem
- Agent w Telegramie/WhatsAppie za pomocą API bota: zdjęcie lub tekst w, posortowane karty na wyjściu
- Kolejka oparta na zdarzeniach do przetwarzania zdjęć i szczytów ruchu, aby nic nie spadło pod obciążeniem

Aby zminimalizować ryzyko, zacząłbym od krótkiego płatnego odkrycia + prototypu na wycinku Twojego rzeczywistego katalogu, mierzonego z recall@k, zanim zobowiążemy się do budowy o wysokim obciążeniu. To najpierw udowodni jakość na Twoich danych.

Relewantna praca: zbudowałem pulpit nawigacyjny na prywatnej platformie inferencyjnej GPU (FastAPI, pamięć wektorowa, stan modelu na żywo), wdrożyłem funkcje LLM w produkcji i wyszukiwanie API wizji oraz boty komunikatorów oparte na zdarzeniach. Przykłady w prywatnym. 36 projektów na Freelancehunt, wszystkie 100%, 10/10.

Trzy pytania do określenia zakresu: rozmiar katalogu, docelowe obciążenie (żądania/min) i który komunikator jako pierwszy? I czy istnieje istniejące API katalogu? Rozwiń

Budżet: 165 USD Termin: 1 dzień

Dzień dobry, Nick.

Krótko:

Twój serwis otrzyma multimodalne wyszukiwanie, zdolne jednocześnie przetwarzać zapytania zdjęciowe i tekstowe za pośrednictwem osobistego agenta w Telegramie lub WhatsApp. Rdzeń wyszukiwania oparty na fine-tuned LLM oraz modelach wizji zapewni wysoką dokładność wyników. Wyszukiwanie tekstowe wzmocnimy wektorowym indeksem pgvector, aby natychmiast znajdować podobne produkty nawet przy niepełnym opisie. System będzie działał na Kubernetes z automatycznym skalowaniem, więc szczytowe obciążenia nie wpłyną na szybkość. Integracja przez komunikatory pozwoli użytkownikom wysyłać zdjęcia i tekst na czacie, a asystent zwróci zestaw produktów z twojego katalogu. Fine-tuning na twoich danych gwarantuje dokładność, niedoścignioną dla ogólnych modeli.

Szczegóły:

Multimodalne wyszukiwanie wymaga głębokiego fine-tuningu LLM pod twój katalog, w przeciwnym razie trafność pozostanie na poziomie modeli ogólnych. Rdzeń wyszukiwania połączy model bazowy z dalszym uczeniem na twoich danych oraz wektorowy indeks pgvector do wyszukiwania semantycznego. Komponent wizji wyodrębni cechy ze zdjęć, a tekst doprecyzuje kontekst — oba strumienie połączą się w jedyny ranked-wynik. Architektura na Kubernetes z niezależnym skalowaniem węzłów (wizja, tekst, ranking) zapewni stabilną latencję. Architektura oparta na zdarzeniach z kolejkami wiadomości ochroni przed utratą zapytań podczas szczytów ruchu, a użytkownik otrzyma karty produktów z bezpośrednimi linkami.

Następnym krokiem dokładność wyszukiwania można zwiększyć dzięki hybrydowemu podejściu RAG z fine-tuningiem. To pozwoli agentowi natychmiast aktualizować wiedzę o stanach magazynowych i cenach bez ponownego uczenia modelu, co jest krytyczne dla dynamicznego katalogu e-commerce.

Jeszcze później konwersja wzrośnie dzięki modułowi analitycznemu, który będzie śledził najpopularniejsze wizualne zapytania. Otrzymasz jasne zrozumienie tego, czego dokładnie szukają użytkownicy, aby zoptymalizować zakupy i marketing.

Jestem gotów omówić szczegóły katalogu, wolumeny zapytań i wybór modelu bazowego do fine-tuningu. Rozwiń

Budżet: 1300 USD Termin: 45 dni

Mamy doświadczenie w budowaniu architektur Highload i dalszym szkoleniu LLM do zadań multimodalnych. Realizujemy system za pomocą mikroserwisów w Pythonie z wykorzystaniem baz danych wektorowych do szybkiego wyszukiwania oraz integracją API komunikatorów do pracy agenta. Zapewnimy skalowalność i dokładność przetwarzania zapytań dotyczących zdjęć i tekstu. Jesteśmy gotowi do rozpoczęcia projektowania architektury.

Budżet: 25000 USD Termin: 35 dni

mamy już praktycznie gotowe podobne rozwiązanie dla wyszukiwania AI i asystenta w komunikatorach, które można szybko dostosować i uruchomić pod wasz katalog ))
W przypadku zadania zakładałbym pierwszy etap roboczy od 250000 UAH i około 35 dni roboczych na prototyp z wyszukiwaniem po zdjęciach i tekstach, rankingiem, agentem i podstawową integracją w komunikatory.
Zobaczcie, tu jest niuans - dla wersji przemysłowej najważniejsze jest wcześniejsze sprawdzenie !!obciążenia, jakości wyszukiwania i struktury katalogu!!, w przeciwnym razie fine tuning może stać się drogą zabawką bez zauważalnych korzyści.
W realizacji poszedłbym przez warstwę danych, wyszukiwanie wektorowe i tekstowe, oddzielną warstwę rankingu, scenariusze agenta, logowanie zapytań i metryki jakości wyników po stronie serwisu.
Od was potrzebne są: eksport katalogu, zdjęcia, opisy, zasady wydawania, lista komunikatorów i dostęp do testowego API.
Uściślę dwa punkty - jaki jest rozmiar katalogu i jakie jest docelowe obciążenie w zapytaniach na minutę?
Jakie komunikatory są potrzebne w pierwszym uruchomieniu i czy istnieje już API katalogu?
Z podobnych rozwiązań dotyczących AI i agentów - https://business.ingello.com/vorfahr i https://business.ingello.com/fractal
Jako bliski przykład dotyczący e-commerce i logiki katalogowej - https://business.ingello.com/prime-eva
Więcej o nas dla giełdy - https://systems-fl.ingello.com
Jesteśmy w kontakcie, możemy omówić szczegóły w ramach projektu =) Rozwiń