Budżet: 7777 UAH Termin: 7 dni
Dzień dobry.
Realizuję rozwój parserów opartych na Pythonie z naciskiem na omijanie systemów ochrony oraz pracę w trybie wielowątkowym. Ponieważ kluczowa trudność projektu polega na omijaniu Cloudflare i autoryzacji, architektura skryptów będzie zbudowana wokół narzędzi, które w pełni imitują zachowanie prawdziwego użytkownika.
Rozwiązania desktopowe i C# nie są używane — oprogramowanie będzie opracowane jako skrypty konsolowe, gotowe do uruchomienia na serwerze (VPS/VDS) według harmonogramu (Cron).
Rozwiązanie techniczne
Omijanie Cloudflare i autoryzacja:
Dla stron z podstawową ochroną i sesyjną autoryzacją użyję biblioteki CloudScraper lub curl_cffi, które potrafią podmieniać odciski TLS/JA3 przeglądarki.
Dla trudnych donorów z „ciężką” ochroną Cloudflare (Turnstile, wstrzyknięcia JS) podłączę automatyzację przez Playwright lub Selenium w trybie serwisowym (headless), wspólnie z biblioteką Undetected Chromedriver.
Zrealizuję logikę przechowywania i aktualizacji sesyjnych ciasteczek (cookies), aby skrypt wykonywał autoryzację tylko w razie potrzeby, a nie przy każdym zapytaniu do produktu.
Obowiązkowo podłączę rotację elitarnych rezydenckich lub mobilnych proxy przez pulę pobrań, aby zapobiec zablokowaniu IP.
Parsowanie i przechowywanie w MySQL:
Napiszę jasne selektory (BeautifulSoup/lxml) do zbierania charakterystyk, cen, artykułów i opisów produktów.
Zintegruję konektor do waszej bazy danych przez ORM SQLAlchemy lub PyMySQL. Dane przed importem będą przechodziły walidację i normalizację, aby w pełni odpowiadały strukturze i typom pól waszej aktualnej bazy danych.
Zrealizuję sprawdzanie duplikatów (według artykułu lub ID donora), aby aktualizować istniejące produkty (np. aktualizować cenę) i dodawać tylko nowe.
Ładowanie zdjęć na serwer:
Pobieranie obrazów będzie odbywać się asynchronicznie (aiohttp lub httpx) dla maksymalnej prędkości.
Skrypt automatycznie zmieni nazwy plików według waszego standardu (np. podstawiając artykuł produktu) i zapisze je w wskazanych folderach na serwerze, a względne ścieżki do zdjęć zapisze w odpowiednich komórkach MySQL.
Co jest potrzebne do startu i oceny:
Proszę przesłać techniczne zadanie w wiadomościach prywatnych.
Proszę podać przykład 1–2 najtrudniejszych stron-donorów, abym mógł ocenić typ ochrony Cloudflare i logikę autoryzacji.
Ile mniej więcej produktów oczekuje się do parsowania z jednego źródła?
Jestem gotów omówić szczegóły, po zapoznaniu się z TŻ sformułuję dokładne terminy i budżet dla każdego donora.