Uruchomienie lokalnego LLM llama.cpp + analiza uwagi i aktywacji (Windows)
Musisz zainstalować gotowy model llm oraz oprogramowanie do niego.
aby:
✅ uruchamiać lokalną LLM (bez internetu)
✅ widzieć mapy cieplne uwagi
✅ oglądać logits
✅ widzieć aktywacje warstw
✅ zarządzać parametrami generacji
✅ analizować wewnętrzną pracę modelu
Oprogramowanie, które należy zainstalować, aby to wszystko działało:
- CMake
- Git
- Visual Studio Build Tools
- Python
Instrukcja instalacji jest dostępna, potrzebna pomoc w realizacji tego zadania. Proszę o propozycje cenowe
-
2181 10 0 Mogę pomóc w instalacji tego oprogramowania. Python, Git, VS często używam w pracy, więc mogę pomóc rozwiązać problemy z instalacją. CMake nie używam tak często, jednak instalacja też nie jest problemem. LLM proponuję uruchamiać przez narzędzie Ollama - można je dość wygodnie dostosować do siebie i jest dostęp do wielu modeli za darmo.
Proszę daj znać, czy interesuje Cię tylko instalacja, czy dodatkowo trzeba zrealizować jakąś aplikację na LLM? Jeśli potrzebna jest dodatkowa aplikacja, napisz proszę dokładniej o jej celu i pożądanej funkcjonalności w wiadomości prywatnej. Dziękuję!
-
46 Mogę zainstalować i uruchomić llama.cpp na Windows. Zrobię to dzisiaj.
Aktualne zlecenia dla freelancerów w kategorii AI i uczenie maszynowe
Potrzebna sesja zdjęciowa AI na stronę randkową i media społecznościowe (10 zdjęć)Potrzebna sesja zdjęciowa AI na stronę randkową i media społecznościowe (10 zdjęć) Szukam specjalisty od generacji AI, retuszu i fotomontażu do stworzenia realistycznej sesji zdjęciowej na podstawie moich zdjęć. Co należy zrobić: Stworzyć 10 jakościowych i maksymalnie… AI graphic, AI i uczenie maszynowe ∙ 8 godzin 54 minuty temu ∙ 16 ofert |
Pocket Option bot handlowy
266 PLN
potrzebny bot i twoja kompetencja kto już mógł stworzyć podobnego bota gdy stawki są prawidłowe, odczytywane z pocket option interesuje mnie brent oil nie potrzebuję nowicjusza ani kogoś, kto po prostu napisze kod byle jak potrzebuję kogoś, kto się zna, kto może naprawdę… AI i uczenie maszynowe, Tworzenie chatbota ∙ 9 godzin 29 minut temu ∙ 8 ofert |
Platforma komentowania AI dla TikTok i Instagram.Cel projektuOpracować system, który pozwala zarządzać dużą liczbą kont TikTok i Instagram oraz automatycznie publikować odpowiednie komentarze pod wybranymi filmami z wykorzystaniem AI.Podstawowa funkcjonalność1. Zarządzanie kontamiNależy wdrożyć możliwość podłączenia… AI i uczenie maszynowe, Python ∙ 16 godzin 10 minut temu ∙ 13 ofert |
AI-agent do wyszukiwania i analizy zbioru dokumentów w rejestrze decyzji1. Kontekst i problem Docelowy użytkownik: specjalista, który pracuje z dużą ilością dokumentów tekstowych i musi podejmować decyzje na podstawie precedensów. Istota problemu: praca z otwartym rejestrem dokumentów zajmuje nadmiernie dużo czasu: wyszukiwanie wymaga ręcznego… AI i uczenie maszynowe ∙ 20 godzin 46 minut temu ∙ 26 ofert |
Zbudować model klasyfikacji klientów1. Są dane klientów w Mongo/SQL (około 20 000 zapisów z surowymi danymi). 2. Należy na ich podstawie zbudować cechy i model klasyfikacji klientów na grupy behawioralne. 3. Projekt wykonać w Pythonie. AI i uczenie maszynowe, Python ∙ 2 dni 10 godzin temu ∙ 34 oferty |