Помочь задеплоить open source AI модель

Здравствуйте!
Могу подобрать быструю open-source AI-модель (например, Llama 3 8B или аналог) и помочь с деплоем, в том числе через SambaNova или другие облачные сервисы.
Какой сервис планируете использовать?

Показать оригинал

Перевести

Здравствуйте!
Буду рад помочь с онпрем деплоем подходящей модели и её конфигом.

Приветствую!) Работали с деплоем разных LLM-моделей (LLaMA, Mistral, Gemma, Phi, DeepSeek) как локально, так и через Ollama, vLLM, Replicate и HuggingFace. Поможем подобрать быструю open-source модель под вашу задачу, развернуть и оптимизировать под инфраструктуру (в том числе с учётом ограничений или специфики платформ вроде SambaNova). Задача не сложная, но достаточно специфическая и требует уточнения всех деталей. Готовы взяться сразу после согласования всех нюансов

Было бы хорошо описать какое у вас оборудование для деплоя. Описать для чего нужен локальный АІ (может есть более подходящие модели). Какую оболочку предпологаете ставить? И самое главное, почему модели не с HuggingFace.

Привет!
Нужно уточнить: куда именно хотите деплоить — есть среда или нужно настраивать?
И какая основная цель деплоя — просто inference, чат, интеграция с чем-то?

Показать оригинал

Перевести

Добрый день! Меня зовут Роман, я AI/ML инженер-консультант.

🔹 Текущая роль – инженер-консультант в узбекском стартапе SWAZE
🔹 Ранее – разрабатывал AI-решения для Rozetka.com.ua

🔹 Портфолио – Freelancehunt
🔹 Рейтинг – топ‑5 в категории «AI и машинное обучение» на Freelancehunt

Показать оригинал

Перевести

Здравствуйте

Я разработчик в сфере AI/ML. Смогу выполнить Ваш проект. Напишите мне, обсудим.