Uruchomienie lokalnego LLM llama.cpp + analiza uwagi i aktywacji (Windows)

AI i uczenie maszynowe, Python — podano nieprawidłowe kategorie?

85 PLN

Zlecenie jest tłumaczone automatycznie. Zaloguj się lub zarejestruj się, żeby zobaczyć oryginał

Musisz zainstalować gotowy model llm oraz oprogramowanie do niego.

aby:

✅ uruchamiać lokalną LLM (bez internetu)

✅ widzieć mapy cieplne uwagi

✅ oglądać logits

✅ widzieć aktywacje warstw

✅ zarządzać parametrami generacji

✅ analizować wewnętrzną pracę modelu

Oprogramowanie, które należy zainstalować, aby to wszystko działało:
- CMake
- Git

- Visual Studio Build Tools
- Python

Instrukcja instalacji jest dostępna, potrzebna pomoc w realizacji tego zadania. Proszę o propozycje cenowe

Oferty 4

Oleksandr Kovalchuk

13 0

Budżet: 1000 UAH Termin: 1 dzień

Mogę pomóc w instalacji tego oprogramowania. Python, Git, VS często używam w pracy, więc mogę pomóc rozwiązać problemy z instalacją. CMake nie używam tak często, jednak instalacja też nie jest problemem. LLM proponuję uruchamiać przez narzędzie Ollama - można je dość wygodnie dostosować do siebie i jest dostęp do wielu modeli za darmo.

Proszę daj znać, czy interesuje Cię tylko instalacja, czy dodatkowo trzeba zrealizować jakąś aplikację na LLM? Jeśli potrzebna jest dodatkowa aplikacja, napisz proszę dokładniej o jej celu i pożądanej funkcjonalności w wiadomości prywatnej. Dziękuję!