Запуск локальної LLM llama.cpp + аналіз уваги та активацій (Windows)
1000 UAHПостібно встановити готову модель ллм та софт до неї.
для того щоб:
✅ запускати локальну LLM (без інтернету)
✅ бачити attention heatmaps
✅ дивитися logits
✅ бачити активації шарів
✅ керувати параметрами генерації
✅ аналізувати внутрішню роботу моделі
Софт який необхідно поставити щоб це все працювало:
- CMake
- Git
- Visual Studio Build Tools
- Python
Інструкція по встановленню є, потрібна допомога із реазілацією ціїє задачі. Ціну пропонуйте
-
2181 10 0 Можу допомогти вам із встановленням даного софту. Python, Git, VS сам часто користуюсь у роботі, тому можу допомогти вирішити проблеми зі встановленням. CMake не так часто, однак встановити теж не проблема. LLM пропоную запускати через Ollama утиліту - можна доволі зручно під себе підігнати і є доступ до багатьох моделей безкоштовно.
Підкажіть вас цікавить лише встановлення чи додатково потрібно ще реалізувати якусь програму поверх LLM? Якщо потрібна додаткова програма, напишіть, будь ласка, детальніше про її ціль та бажаний функціонал в особисті. Дякую!
-
46 Можу встановити і запустити llama.cpp на Windows.
Зроблю сьогодні.
Актуальні фриланс-проєкти в категорії AI та машинне навчання
AI Модель
5000 UAH
Потрібна людина, яка розбирається в створенні UGC креативів з використанням AI Потрібні відео з ОДНИМ І ТИМ ЖЕ чоловіком, близько 200-300 на місяць Ціна обговорюється AI та машинне навчання ∙ 5 годин 37 хвилин тому ∙ 1 ставка |
Створити плагін для Chrome, для підключення до проксіСтворити плагін для Chrome, для підключення до проксі шукаю розробника, можливо + ІІ який вже публікував подібні плагіни в сторі успішно просто ІІ написання без досвіду в розробці не потрібно пишіть пропозиції по ціні, термінам AI та машинне навчання, Веб-програмування ∙ 1 день 18 годин тому ∙ 31 ставка |
Потрібно перенести сайт з Figma + Webflow на код, можливо з ІІПотрібно перенести сайт з Figma + Webflow на код, можливо з ІІ Якщо можливо зробити з ІІ, з 100% точністю і без багів, краще зробити їм пишіть ціну і який був досвід конкретно в цій задачі AI та машинне навчання, AI у дизайні ∙ 1 день 18 годин тому ∙ 38 ставок |
AI Відео Творець & 3D Художник для Інноваційного AI-EdTech Проекту (Radaastrea): Шукаємо 3D-художника / AI-відеомейкера в інноваційний AI-EdTech проект (Радаастрея)Опис: Ми створюємо масштабну медіафраншизу та концепт емпатичного ІІ-робота нового покоління для підлітків — РАДААСТРЕЯ. Образ — мудра і світла 7-річна дівчинка, що поєднує в собі божественну… AI та машинне навчання, Розробка ігор ∙ 2 дні 14 годин тому ∙ 1 ставка |
Огляд архітектури та розгортання N8nМова Наша технічна команда говорить англійською, російською та німецькою. Ви можете вибрати будь-яку з цих мов для вашого текстового матеріалу та дзвінка для обговорення. МетаМи працюємо з готовими до виробництва AI та документними робочими процесами на n8n Cloud, які… AI та машинне навчання, Консультування з AI ∙ 2 дні 17 годин тому ∙ 20 ставок |