Uruchomienie lokalnego LLM llama.cpp + analiza uwagi i aktywacji (Windows)
Musisz zainstalować gotowy model llm oraz oprogramowanie do niego.
aby:
✅ uruchamiać lokalną LLM (bez internetu)
✅ widzieć mapy cieplne uwagi
✅ oglądać logits
✅ widzieć aktywacje warstw
✅ zarządzać parametrami generacji
✅ analizować wewnętrzną pracę modelu
Oprogramowanie, które należy zainstalować, aby to wszystko działało:
- CMake
- Git
- Visual Studio Build Tools
- Python
Instrukcja instalacji jest dostępna, potrzebna pomoc w realizacji tego zadania. Proszę o propozycje cenowe
-
2181 10 0 Mogę pomóc w instalacji tego oprogramowania. Python, Git, VS często używam w pracy, więc mogę pomóc rozwiązać problemy z instalacją. CMake nie używam tak często, jednak instalacja też nie jest problemem. LLM proponuję uruchamiać przez narzędzie Ollama - można je dość wygodnie dostosować do siebie i jest dostęp do wielu modeli za darmo.
Proszę daj znać, czy interesuje Cię tylko instalacja, czy dodatkowo trzeba zrealizować jakąś aplikację na LLM? Jeśli potrzebna jest dodatkowa aplikacja, napisz proszę dokładniej o jej celu i pożądanej funkcjonalności w wiadomości prywatnej. Dziękuję!
-
46 Mogę zainstalować i uruchomić llama.cpp na Windows. Zrobię to dzisiaj.
Aktualne zlecenia dla freelancerów w kategorii AI i uczenie maszynowe
Rozwój systemu Highload z fine tuning modeli LLMOpracowanie systemu o wysokim obciążeniu (Highload) z fine tuningiem modeli LLM dla internetowej usługi multimodalnego wyszukiwania produktów na podstawie zdjęć i zapytań tekstowych, jednocześnie zintegrowanej z komunikatorami przez osobistego agenta-asystenta. AI i uczenie maszynowe ∙ 4 godziny 23 minuty temu ∙ 11 ofert |
Potrzebny programista do stworzenia zautomatyzowanej usługi AI do generowania raportów numerologicznych
671 PLN
Szukam dewelopera, który będzie w stanie zrealizować pod klucz zautomatyzowaną usługę do generowania osobistych raportów numerologicznych. Posiadam gotową koncepcję produktu, formuły obliczeń, teksty, bazę wiedzy, projekt landing page oraz projekt raportów PDF. Należy połączyć… AI i uczenie maszynowe, Programowanie stron internetowych ∙ 7 godzin 13 minut temu ∙ 64 oferty |
Potrzebna sesja zdjęciowa AI na stronę randkową i media społecznościowe (10 zdjęć)Potrzebna sesja zdjęciowa AI na stronę randkową i media społecznościowe (10 zdjęć) Szukam specjalisty od generacji AI, retuszu i fotomontażu do stworzenia realistycznej sesji zdjęciowej na podstawie moich zdjęć. Co należy zrobić: Stworzyć 10 jakościowych i maksymalnie… AI graphic, AI i uczenie maszynowe ∙ 17 godzin 4 minuty temu ∙ 24 oferty |
Pocket Option bot handlowy
268 PLN
potrzebny bot i twoja kompetencja kto już mógł stworzyć podobnego bota gdy stawki są prawidłowe, odczytywane z pocket option interesuje mnie brent oil nie potrzebuję nowicjusza ani kogoś, kto po prostu napisze kod byle jak potrzebuję kogoś, kto się zna, kto może naprawdę… AI i uczenie maszynowe, Tworzenie chatbota ∙ 17 godzin 39 minut temu ∙ 11 ofert |
Platforma komentowania AI dla TikTok i Instagram.Cel projektuOpracować system, który pozwala zarządzać dużą liczbą kont TikTok i Instagram oraz automatycznie publikować odpowiednie komentarze pod wybranymi filmami z wykorzystaniem AI.Podstawowa funkcjonalność1. Zarządzanie kontamiNależy wdrożyć możliwość podłączenia… AI i uczenie maszynowe, Python ∙ 1 dzień temu ∙ 16 ofert |