Допомогти задеплоїти open source AI модель
Потрібно підшукати швидку open source AI модель і допомогти її задеплоїти
Типу Llama 3 8B яка на SambaNova
-
179 Вітаю!
Можу підібрати швидку open-source AI-модель (наприклад, Llama 3 8B або аналог) та допомогти з деплоєм, у тому числі через SambaNova чи інші хмарні сервіси.
Який сервіс плануєте використовувати?
-
340 3 0 Здравствуйте!
Буду рад допомогти з онпрем деплоєм підходящої моделі та її конфігом.
-
580 1 0 Привіт!) Працювали з деплоєм різних LLM-моделей (LLaMA, Mistral, Gemma, Phi, DeepSeek) як локально, так і через Ollama, vLLM, Replicate і HuggingFace. Допоможемо підбрати швидку open-source модель під ваше завдання, розгорнути та оптимізувати під інфраструктуру (з урахуванням обмежень або специфіки платформ, таких як SambaNova). Завдання не складне, але досить специфічне і вимагає уточнення всіх деталей. Готові взятися одразу після узгодження всіх нюансів
-
2265 46 0 Було б добре описати, яке у вас обладнання для деплою. Описати, для чого потрібен локальний АІ (може, є більш підходящі моделі). Яку оболонку плануєте встановити? І найголовніше, чому моделі не з HuggingFace.
-
1412 4 0 Привіт!
Потрібно уточнити: куди саме хочете деплоїти - є середовище чи треба налаштовувати?
І яка основна мета деплою - просто inference, чат, інтеграція із чимось?
-
1595 7 0 Доброго дня! Мене звати Роман, я AI/ML інженер‑консультант.
🔹 Поточна роль – інженер-консультант в узбецькому стартапі SWAZE
🔹 Раніше – розробляв AI-рішення для Rozetka.com.ua
🔹 Портфоліо – Freelancehunt
🔹 Рейтинг – топ‑5 в категорії «AI та машинне навчання» на Freelancehunt
-
1616 8 0 Здравствуйте
Я розробник у сфері AI/ML. Зможу виконати Ваш проект. Напишіть мені, обговоримо.