Ищу опытного AI/Linux инженера для создания self-hosted AI infrastructure на моём сервере.

у нас уже есть практически готовая база под такую AI-инфраструктуру, ее можно быстро адаптировать под ваш сервер и запустить первый рабочий вариант ))

по стоимости я бы закладывал от 45 000 грн за первый этап на 10-14 дней.

сюда входит Linux-сервер, Docker-экосистема, Ollama, Open WebUI, Telegram-интеграция, базовая память, удаленный доступ, мониторинг, запуск локальных моделей и основа для агентов.

1000 грн, кажется, подойдет только для короткой диагностики сервера или консультации, а не для сборки стабильной системы.

по стеку рекомендовал бы Ubuntu Server, Docker Compose, Ollama, Open WebUI, PostgreSQL или SQLite для памяти на старте, n8n или собственный слой рабочих процессов, Telegram bot API, Prometheus или Netdata для мониторинга, NVIDIA drivers и CUDA при наличии подходящей видеокарты.
…
мы делали похожие решения по AI-агентам и автоматизации.

https://business.ingello.com/fractal - близко по логике многоагентных процессов и развтия архитектуры.

https://business.ingello.com/vorfahr - пример автоматизации с AI и системным подходом к продукту.

https://business.ingello.com/tts - пример AI-интеграций и работы с прикладными сценариями.

главная страница по нашим системным проектам для Freelancehunt - https://systems-fl.ingello.com

ПО доступам от вас нужны параметры сервера, наличие или модель NVIDIA GPU, желаемый способ удаленного доступа и список первых 3-5 задач, которые ассистент должен автоматизировать.

уточню два момента.

сервер уже куплен и на нем есть физический доступ или IPMI.

ассистент должен только помогать через Telegram/Web UI или еще сам запускать команды, создавать файлы и менять рабочие процессы на сервере.

в целом норм идти поэтапно - сначала стабильное ядро, потом агенты, память и новые рабочие сценарии.

не будем городить башню до небес, но фундамент лучше положить правильно =/--

Доброго дня! Имею богатый опыт развертывания такой инфры, в кубернетес. Архитектурно возможно более правильно использовать vLLM. Могу приступить к работе в ближайщее время с предвариательным митом для согласования деталей. Жду сообщения.

Добрый день!

Неделю назад занял 3-е место соло на AI Agent Olympics Hackathon (Milan AI Week 2026, крупнейшее AI-событие Европы) среди 731 команды - построил мульти-агентную систему за 7 дней. Год+ работы в качестве инженера по автоматизации AI, до этого 4 года PM в США/ЕС/Азии, магистр стратегического управления проектами, PRINCE2, Python/Docker каждый день.

Стек на май 2026: Ubuntu 26.04 LTS, Docker, Ollama v0.6.2 (Llama 4 Scout / DeepSeek V4 / Qwen 3.6 под ваше железо), Open WebUI v0.8.0 (с патчем CVE-2026-0765), n8n self-hosted как оркестратор, Supabase pgvector для памяти, Telegram bot с human-in-the-loop, CUDA 13.2.1, Tailscale + Prometheus/Grafana.

MVP (установка + 2-3 агента + Telegram + мониторинг): 35 000 грн, 10-14 дней. Полная модульная экосистема с автогенерацией агентов: 70 000 грн, 3-4 недели. Напишите, на какое железо разворачиваем - за сутки верну точный сметный расчет и roadmap.

Кейсы в профиле

Показать оригинал

Перевести

Добрый день!

Есть опыт построения self-hosted AI-инфраструктуры на Linux с Docker, GPU, Telegram-интеграцией и системами автоматизации.

Для вашего проекта рекомендовал бы использовать vLLM вместо Ollama как более производительное и масштабируемое решение для локальных LLM, а также Open WebUI, PostgreSQL/Redis и агентную систему на LangGraph или CrewAI.

Предварительный срок реализации базовой платформы составляет 2 недели, стоимость зависит от количества агентов, сценариев автоматизации и требований к автономности. Готов обсудить детали и предложить оптимальную архитектуру под дальнейшее масштабирование.

Здравствуйте. Задача понятна: вам нужна не просто «установленная Ollama», а полноценная Self-hosted Autonomous AI Ecosystem с агентной логикой, памятью и возможностью масштабирования. У меня более 8 лет опыта в разработке сложных систем и глубокая экспертиза в AI-инфраструктуре (локальные LLM, RAG, многоагентные системы).

Мой рекомендованный стек:

Infrastructure: Ubuntu Server + Docker Compose + Portainer (управление) + NVIDIA Container Toolkit.
LLM Core: Ollama (быстрый старт) или vLLM (высокая производительность) + Open WebUI с поддержкой Multi-user/RAG.
Workflow & Agents: n8n (self-hosted) — идеальный «клей» для автоматизаций + LangGraph или CrewAI для сложной многоагентной логики.
Memory/RAG: PostgreSQL с расширением pgvector или Qdrant для долгосрочной памяти агентов.
Access & Sec: Tailscale/Netbird (безопасный удаленный доступ без открытия портов) + Uptime Kuma (мониторинг).
…
Этапы реализации:

Base Setup (3–5 дней): ОС, драйверы GPU, Docker, Ollama, Open WebUI. Настройка безопасного доступа.
Agent Logic (5–10 дней): Развертывание n8n, создание Telegram-бота, настройка первых автономных воркфлоу (например: сбор данных -> анализ AI -> отчет в TG).
Advanced Architecture (7–10 дней): Интеграция многоагентной архитектуры (CrewAI/LangGraph) для выполнения сложных кросс-функциональных задач и построение RAG-системы (память).

Стоимость: Развертывание экосистемы — $1,000. Дальнейшее создание сложных агентов и воркфлоу — по согласованию (почасово или за проект). Сроки: 2–4 недели до полноценного запуска автономной системы.

Уточнения:

Какие именно GPU установлены на сервере (VRAM критична для выбора моделей)?
Какие первоочередные 2–3 задачи ассистент должен автоматизировать сразу после запуска?

Показать оригинал

Перевести

Добрый день!

У меня есть опыт с Ubuntu Server + Docker Compose, Ollama + Open WebUI, n8n workflows, PostgreSQL pgvector, Telegram bot (aiogram), Tailscale. Настраивал NVIDIA Container Toolkit для GPU-ускорения.

Уточните: какая GPU и сколько VRAM? n8n или LangGraph для workflows? Это повлияет на сроки.

Ориентировочная стоимость полного setup: 15 000–20 000 UAH, 10–14 дней.

Показать оригинал

Перевести

Добрый день. Готов выполнить данный проект есть большой опыт разработки различных приложений.

Здравствуйте, Vebster, довольно странно сейчас реализовать с нуля подобную систему, учитывая огромное количество готовых opensource решений. По которым и предлагаю пройти:
1. Классика и из того все началось OpenClaw
2. Более умный и адаптивный Hermes Agent
3. Последнее, самое свежее и надежное решение: OpenHuman

В нем реализованно практически все, что вам необходимо, и множество другого.
Если вы же против подобных автономных агентов, можно собрать с нуля:
1. Лучше не ollama, а llama cpp - быстрее и эффективнее (в бенчмарках до 30% ускорения генерация токенов)
2. Для агентов хорошо подходит pydanticAI, или LlamaIndex
… 3. Для памяти множество подходов, хорошо сейчас показывают связки RAG + obsidianb graph
Я уже делал подобные системы неоднократно. Собирал мультиагентов для программирования и оценки проектов. Так же мой последний проект перекликается с использованием агентов. Так что, опыт имеется.
Если используем готового агента, то цена и сроки ниже, в ставке буду указывать за второй вариант.
Буду рад с вами работать!

Здравствуйте! Ваш проект выглядит очень перспективным. Готов начать работу и выполнить его на высшем уровне.

Здравствуйте. У меня есть опыт работы с Python, Docker, FastAPI, Telegram-ботами, самоуправляемой AI-инфраструктурой, RAG/памятью, локальными LLM через Ollama и созданием автоматизированных рабочих процессов.

По стеку вижу так: Ubuntu Server, Docker Compose, Ollama + Open WebUI, Qdrant/PostgreSQL для памяти, Telegram-бот как интерфейс, n8n или собственный уровень рабочего процесса, мониторинг, резервное копирование и безопасный удаленный доступ.

Я бы работал поэтапно: сначала стабильное ядро на сервере, затем Telegram/Web UI, память, агенты, автоматизация рабочих процессов и ускорение с помощью GPU. Так система не превратится в "архитектурную кашу" и ее можно будет масштабировать.

Готов обсудить задачи и предложить реалистичную архитектуру для вашего сервера.

Показать оригинал

Перевести

Привет!

Профильный стек — крутю Ollama + Open WebUI на своем воркстейшене (GTX 1660 SUPER, CUDA 13.1), строила AI Twin agent с Telegram bridge и persistent memory (Postgres + pgvector). Multi-agent через LangGraph — есть рабочий PoC.

Рекомендую: Ubuntu 24.04 LTS + Docker Compose, Ollama + Open WebUI, n8n или LangGraph для workflows, Postgres + pgvector для memory, Tailscale для remote, Uptime Kuma + Loki/Grafana для monitoring, Telegram bot на aiogram.

Вопросы к старту:
— Сервер с GPU уже стоит, или нужно подбирать железо? Какая модель GPU и сколько VRAM?
— Какие модели планируется крутить (Llama 3.1 8B/70B, Qwen, Mistral 7B)?
… — Workflows на no-code (n8n/Flowise), или кастомный Python orchestrator (LangGraph/CrewAI)?

Сроки: базовый setup (Docker + Ollama + WebUI + Telegram + 1 агент + базовый monitoring) — 7-10 дней part-time. Multi-agent с handoff, tool calling и полный monitoring — еще 1.5-2 недели.

Бюджет 1000 UAH — наверное placeholder, реалистичная fixed-цена за полный setup с документацией и handover от 15 000 UAH, или почасово 600 грн/час.

Долгосрочно ок, я работаю part-time стабильно. Готова расписать детальный смет после ответов на вопросы выше.

Показать оригинал

Перевести