Kto może pomóc skonfigurować taki zestaw: Planuję uruchomić serwer, który będzie równolegle działał z 4–5 różnymi modelami AI do zadań programistycznych. Kluczowym wymaganiem jest dostęp wieloosobowy: kilku programistów będzie mogło korzystać z serwera jednocześnie, każdy w izolowanej sesji i ze swoimi agentami. Modele Claude / GPT / Kimi k3
Oferty ukryte
Aktualnie brak ofert
-
Ruslan B. 5 kwietnia 2023Скільки користувачів ?
І чи разглядали варіант права на групи
Та включення selinux.
-
Yaroslav R.
5 kwietnia 2023
користувачів буде від 3-5+ (в основному це vscode-remote редактори які будуть запускати локальні процеси через zsh консоль)
права на групи теж було б круто в теорії, можна було б прямо групу resources-30 resources-10 або priority-10 і т.д.
selinux теоретично добре інтегровано в fedora і redhat based, але в теорії і тут буде працювати якщо не помиляюсь. -
Yaroslav R.
5 kwietnia 2023
в цілому відкритий до включення будь-яких підсистем які допоможуть з рішенням
-
Denis Holius 5 kwietnia 2023Як зрозуміти, що ви запускаєте щось велике? Ваші кейси мені трохи не зрозумілі, можете приклад реальний привести?
Приклад з nginx не дуже, бо йому й так потрібно мізерну кількість ресурсів. А якщо ви хочете щось накшталт linux rdp - то краще ранити в Docker, а зберігати інфу кудись на кладу сторадж, і так - десктоп лінукс можна і в докері запустити. -
Yaroslav R.
5 kwietnia 2023
Кейс: юзер зайшов на сервер через ssh запустив наприклад python runsomeheavymultiprocess.py і так декілька юзерів, або запустив node runsome.js вони хочуть використати всі ресурси що є, тобто все що б юзер не запускав треба якось лімітувати.
Докер теж підходить, але потрібен реальний доступ до файлової системи замість overlayfs -
Yaroslav R.
5 kwietnia 2023
основа це щоб одні юзери мали наприклад 10% ресурсів а інші пріорітетніші 20% або навіть усі ресурси коли щось запустили, можете глянути cgroups але поки не вдалось налаштувати
-
Denis Holius 5 kwietnia 2023Є така штука nomad або той же kubernetes, ними можна задавати такі ліміти та багато чого іншого. Через скрипти bash+systemв це ну дуже довго вийде писати говнокод, його дебаг та все таке інше. Для того ж k8s є багато готових навіть скейлерів. Але іще раз повторюю: якщо ви хочете зробити з одного VPS/Bare metal server щось типу dev серверу, то краще нарізати багато vps on demand, або контейнерів в k8s.
-
Yaroslav R.
5 kwietnia 2023
Зрозумів, vps-ondemand навіть близько не стоїть по прайсу поточного baremetal (не вигідно). Що по IOPS, CPU, RAM і т.д.
Мені треба повний доступ до baremetal без монтування файлових систем через overlay з яким потім можуть виникнути проблеми, юзери повинні запускати все що захочуть і якщо необхідно потім отримати усі ресурси системи, мені не треба контейнер чи оркестрація оцього всього.
Чисто теоретично скільки б ви хотіли за розвертання вашого бачення вирішення проблеми через k8s і як бачите виділення ресурсів (я так зрозумів ліміти на контейнер з zsh чи bash шелом) -
Sergey Yashin 5 kwietnia 2023Самое простое linux containers, самое допиленное openvz, оверхед минимальный
-
Denis Holius 6 kwietnia 2023openvz платне, як я зрозумів то потрібне щось без ліцензування
знайомий ще таке запропонував:
ему нужен cloudlinux
пусть возьмёт лицензию, настроит LVE, настроит CageFS и работает -
Andrii Kisil 5 kwietnia 2023Підтримую ідею з ldx з відповідними лімітами. Або той же docker з лімітами
-
Vadim N. 6 kwietnia 2023Решал когда то подобную задачу через kubernetes и Kube eagle. Если хотите могу скинуть наработки которые есть у самого просто на данный проест нет времени.
-
Ruslan B. 7 kwietnia 2023залишилось запитання по встановленому сервері :
залізний, виділений
кількість ядер та об'єм оперативки
і тип дисків.
щоб орієнтуватись, що маєте і чи вистачає ресурсів, щоб їх розділяти.
-
Yaroslav R.
7 kwietnia 2023
дам тестовий на 8 ядер і 32гб оперативи. А так на реальному 128гб оперативи 2тб диск рейд 0 і 24 ядра
-
Yaroslav R.
7 kwietnia 2023
можете спробувати, я дивився як можна через cgroups + systemd але поки сам не пробував
Aktualne zlecenia dla freelancerów w kategorii DevOps
W ramach podnoszenia poziomu cyberbezpieczeństwa naszej infrastruktury musimy zrezygnować z praktyki przechowywania „wiecznych” i statycznych kluczy API, haseł oraz tokenów integracji w plikach konfiguracyjnych (.env, appsettings.json, config.yaml) naszych mikroserwisów. Cel biznesowy: Stworzyć jednolity, zabezpieczony punkt przechowywania danych poufnych (sekretów) z mechanizmem ich automatycznego aktualizowania (rotacji) w systemach zewnętrznych według harmonogramu. Inne nasze usługi będą żądać aktualnych tokenów „na żywo” przez API, co zminimalizuje szkody w przypadku kompromitacji któregokolwiek z komponentów systemu.Model bezpieczeństwa i szyfrowanie (Crypto Core) W bazie danych żaden sekret nie powinien być przechowywany w postaci jawnej. Podczas uruchamiania aplikacji do zmiennych środowiskowych przekazywany jest Klucz główny (Master Key). Jeśli klucz jest nieobecny lub ma nieprawidłową długość, usługa powinna zakończyć działanie na etapie inicjalizacji z zrozumiałym błędem w logach. Każdy sekret jest szyfrowany przed zapisaniem w bazie danych z użyciem tego Klucza głównego. Przy żądaniu — jest deszyfrowany w pamięci i zwracany w treści odpowiedzi.Audyt-logowanie (Audit Trail) Każda akcja z sekretami (tworzenie, odczyt przez usługę, udana lub nieudana rotacja) powinna być zapisywana w oddzielnym pliku logów audit.log (lub w oddzielnej tabeli w bazie danych). Ścisły zakaz: W audyt-logu kategorycznie zabrania się zapisywania samych wartości sekretów (ani w postaci jawnej, ani w postaci zaszyfrowanej).
Mamy dedykowany serwer na hetzner z witryną na dockerach (+framework laravel) Kontakt z deweloperami został utracony Potrzebne: - przywrócić i zmienić dostęp do serwera (prawdopodobnie ssh) - zalecić miejsce przechowywania i skonfigurować pełny backup serwera z prostym przywracaniem, prawdopodobnie nie na hetzner dla bezpieczeństwa - naprawić z jakiegoś powodu niewyświetlany logo (nie wiadomo dlaczego plik przestał być dostępny) Ważne - backupu witryny nie ma, prawa na błąd też. Rozważymy tylko doświadczonych specjalistów.