Devops - jupyter автоматизация
Есть 2 сервера: CPU и GPU.
На обоих стоит jupyter notebook. GPU сервер дорогой, по этому разработка кода идёт на CPU сервере.
Цель: создать "kernel" или какой то скрипт, который позволял бы делать следущюее:
на jupyter notebook от CPU сервра, при запуске нового "GPU kernel", вычисление должно происходит на GPU сервере.
после вычисления GPU сервер нужно снова отключить. Можно использовать runpod.io, vast.ai и другие. Важно что бы весь Output от отдельный notebook клеток так же выдавался в jupyter notebook на CPU сервере.
Мы работаем с тренировкой ЛЛМ моделей которые весят по 20 или 50 ГБ. И конечно же сами модел должны лежать на том GPU сервере, т.к. при тренировки они будут загружаться в график карту.
Как это может работать:
- Модели лежат на GPU сервере
- создать стартовый скрипт, которые связывается с CPU сервером и копирует от туда все файлы проекта
- стартовать через cli jupyter и заводить такую то клетку - вывод передавать на CPU сервер и выводить на jupyter
- в конце работы выключать GPU сервер
Это только идея - может для этого уже есть готовые решения.
АПИ для вкл./вылк. серверов GPU есть у runpod и vast.
-
1 день2903 UAH
210 1 день2903 UAHЗадача интересная, но никогда не делал подобно вне сервисов AWS, GCP ...
Готов выполнить, по времени соориентировать не могу, увы.
Цена 7 $/час
Актуальные фриланс-проекты в категории AI и машинное обучение
AI автоматизация рекламы - FACEBOOK ADS
6739 UAH
Всем привет! Ищем специалистов, которые сейчас эффективно автоматизировали управление / запуск и аналитику Facebook рекламы через AI Claude / GPT / GEMINI Нужно оперативно настроить автоматизацию / запуск / выгрузки / аналитику напишите ваш опыт, будем рады оплатить… AI и машинное обучение, Автоматизация управления предприятием ∙ 2 часа 52 минуты назад ∙ 2 ставки |
Создать офлайн-II, который анализирует инженерную информациюСоздать офлайн-II, который анализирует инженерную документацию в текстовом виде, PDF-файлах и табличных форматах. Ассистент должен уметь извлекать ключевые требования, выявлять ошибки, сравнивать версии документов и помогать инженеру в проектной работе. AI и машинное обучение ∙ 1 день 10 часов назад ∙ 13 ставок |
Генерации и сегментации базы данных водителей и транспортных компаний США
7777 UAH
Описание проекта Мы — американская компания в сфере HR / transportation recruitment. Нам нужен специалист, который с помощью искусственного интеллекта и доступных data-инструментов сможет собрать, обогатить и сегментировать базу данных для дальнейшей работы нашей команды. Что… AI и машинное обучение ∙ 3 дня 6 часов назад ∙ 18 ставок |
Технический консультант по оптимизации железа и аудиту стабильности памяти
53 911 UAH
Всем привет! Ищу специалиста по компьютерному железу или системного инженера, который поможет мне разобраться с нестабильной производительностью моего локального сервера. Я собрал его для рабочих задач, но, похоже, моих любительских знаний не хватает, чтобы выжать из него… AI и машинное обучение ∙ 3 дня 14 часов назад ∙ 9 ставок |
Автоматизация маркетинг через ИИищу человека (не бота) который разбирается в AI агентах, умеет их строить. Под AI агентом я имею в виду: обработка входных данных, запрос на 1х ЛЛМ или похожуу AI модель, потенциальный запрос MCP или похожего, потенциальный запрос RAG системы обработка выходных данных И опыт… AI и машинное обучение ∙ 3 дня 16 часов назад ∙ 29 ставок |
Frankfurt am Main