Parsowanie danych z Coinmarketcap | Python | Starszy Specjalista
Dzień dobry.
Szukamy specjalisty Senior i wyżej z dużym doświadczeniem w parsowaniu danych, najlepiej w Pythonie, ponieważ mamy stary kod napisany przez innego programistę
Musimy na stałe parsować dane z około dwudziestu różnych zasobów.
To takie zasoby jak CoinMarketCap.com, Сoingecko.com, Сoinsniper.net i eksportować je do Google Sheets i bazy danych
Chciałbym poznać odpowiedzi na trzy pytania:
1. Czy kiedykolwiek pracowałeś z parsowaniem danych w wielowątkowości?
2. Czy będziesz w stanie sparsować dane i obejść zabezpieczenia na stronie Coinsniper.net (to ważny zasób dla nas)?
Na przykład, takie jak Cloudflare "Verify yourself as a human", które pojawia się na Coinsniper.net na tej stronie, lub inne zabezpieczenia przed parsowaniem.
3. Czy kiedykolwiek pracowałeś z API Google Sheets?
-
1 dzień2118 PLN1 dzień2118 PLN
Cześć, z jaką częstotliwością należy parsować dane?
1. Tak, mogę dostarczyć przykłady
2. Mam doświadczenie w omijaniu Cloudflare, ale muszę dodatkowo zbadać konkretne zasoby, ponieważ strony mogą mieć różne ustawienia/zasady ochrony
3. Tak, ale API Google Sheets ma limity, jeśli mówimy o dużej ilości danych, warto rozważyć bazę danych
Możemy omówić dalsze szczegóły w wiadomościach prywatnych. Będę zadowolona ze współpracy.
-
5 dni2118 PLN5 dni2118 PLN
Cześć!
Z radością popracuję nad twoim projektem.
Stworzę bota, wypełnię potrzebną funkcjonalnością. Pracuję do pełnego zatwierdzenia.
Napisz do mnie w wiadomościach prywatnych, omówimy szczegóły.
-
7 dni2118 PLN
953 5 0 7 dni2118 PLNCześć, Vitalina.
Z przyjemnością podejmę się Twojego projektu. Mam duże doświadczenie w tworzeniu parserów w pythonie+selenium. Programuję w pythonie od ponad 4 lat, a zajmuję się parsowaniem danych od około 3 lat.
1) Na stałym serwisie mam 2 moje wieloprocesorowe parsery.
Pierwszy parser istnieje już 3 lata, zbiera dane z 18 portali B2B.
Wieloprocesowość jest realizowana przez menedżera procesów, co zapewnia wysoką stabilność i szybkość działania parsera.
Proponuję użyć właśnie wieloprocesorowego parsera, a nie wielowątkowego.
2) Selenium imituje rzeczywistego użytkownika, zaznaczenie opcji dla niego nie stanowi problemu. Bardziej skomplikowane zabezpieczenia, takie jak reCAPTCHA od Google, są omijane przez zewnętrzne usługi, takie zadania również musiałem rozwiązywać.
…
3) Z API Google Sheets nie pracowałem, to zwykłe REST API, nie widzę trudności w jego użyciu. Mam doświadczenie w pracy z pandas do czyszczenia i sortowania danych oraz tworzenia raportów w formacie xlsx, z wykorzystaniem wszystkich zalet arkuszy kalkulacyjnych - kolorowe wyróżnienia, format danych itd.
4) Mogę podłączyć pulę proxy do parsera.
5) Parser może działać na zdalnym serwerze, a sam proces parsowania nie jest szybki. Wygodnym rozwiązaniem, szczególnie dla zespołu lub grupy, będzie użycie powiadomień w kanale telegramowym o pracy parsera.
-
7 dni2114 PLN
484 0 1 7 dni2114 PLNCześć, Witalino!
Jestem doświadczonym programistą Fullstack z dużym doświadczeniem w parsowaniu danych w Pythonie. Rozwiążę twoje zadanie, optymalizując stary kod i wprowadzając wielowątkowość w celu zwiększenia prędkości zbierania danych. Obejść zabezpieczenia na Coinsniper.net za pomocą rozwiązań do omijania Cloudflare. Mam również doświadczenie w pracy z API Google Sheets dla wygodnego eksportu. Gwarantuję jakość i szybkość wykonania!
Czekam na twoją odpowiedź!
-
7 dni2118 PLN
445 28 1 7 dni2118 PLNCześć, jestem gotów zrealizować ten projekt!
Będę zadowolony ze współpracy!
-
7 dni2118 PLN
1806 34 3 7 dni2118 PLNDzień dobry, mam już doświadczenie w pracy z CoinMarketCap i Coingecko.
Proszę pisać na priv, omówimy, co będzie trzeba wyeksportować do tabeli.
Mam doświadczenie w pracy z tabelami Google.
-
7 dni2118 PLN
489 3 1 1 7 dni2118 PLNDzień dobry!
Zainteresował mnie Państwa projekt dotyczący parsowania danych z różnych źródeł. Pozwólcie, że krótko przedstawię moją ofertę:
Doświadczenie i kompetencje:
Parsowanie wielowątkowe: Posiadam znaczące doświadczenie w tworzeniu wielowątkowych i asynchronicznych parserów w Pythonie z wykorzystaniem asyncio, aiohttp i threading, co zapewnia wysoką prędkość i efektywność zbierania danych.
Obchodzenie zabezpieczeń: Skutecznie pracowałem nad obchodzeniem różnych mechanizmów zabezpieczających, w tym Cloudflare "Verify yourself as a human". Używam takich narzędzi jak Selenium, Playwright i specjalistyczne biblioteki (cloudscraper) w celu zapewnienia stabilnego dostępu do chronionych zasobów.
…
Integracja z Google Sheets API: Wiele razy realizowałem integrację z Google Sheets za pomocą gspread i oficjalnego API, zapewniając zautomatyzowane wyprowadzanie i aktualizację danych w arkuszach.
Podejście do projektu:
Analiza istniejącego kodu: Zapoznam się z aktualną bazą kodu, aby zrozumieć strukturę i szczegóły.
Rozwój i optymalizacja: Stworzę/dopracuję parsery dla 20 zasobów, zapewniając ich stabilność i efektywność.
Integracja i automatyzacja: Skonfiguruję automatyczne wyprowadzanie danych do Google Sheets i bazy danych według ustalonego harmonogramu.
Wsparcie i monitorowanie: Zapewnię monitorowanie procesów parsowania oraz szybkie reagowanie na ewentualne awarie lub zmiany na stronach.
Będę zadowolony, mogąc omówić szczegóły Państwa projektu i zaproponować optymalne rozwiązanie. Proszę o kontakt w celu dalszej dyskusji!
-
12 dni2118 PLN
2923 26 0 12 dni2118 PLNCześć!
Jestem gotów zająć się projektem. Mam doświadczenie w parsowaniu danych z różnych źródeł w Pythonie, w tym w pracy z wielowątkowością. Mogę skonfigurować parsowanie danych z podanej przez Ciebie listy stron, obejść zabezpieczenia (na przykład Cloudflare), a także zintegrować eksport do Google Sheets i bazy danych.
Tak, pracowałem z wielowątkowością w celu przyspieszenia parsowania.
Obchodzenie zabezpieczeń Cloudflare — mam doświadczenie w rozwiązywaniu takich zadań z użyciem antycaptcha lub serwerów proxy.
Pracowałem z Google Sheets API, zintegrowałem eksport danych do arkuszy.
Jestem gotów zacząć od razu.
-
7 dni2118 PLN
8867 60 0 1 7 dni2118 PLNDzień dobry. Jestem gotów do wykonania.
Mam duże doświadczenie w tworzeniu parserów.
Piszę w Pythonie, zajmuję 3. miejsce na platformie.
Zrealizuję parser do pracy z danymi w wielowątkowości. Będę w stanie obejść zabezpieczenia na wymaganej stronie. Podłączę niezbędne integracje. Stworzę wygodny interfejs i zoptymalizuję.
Moje portfolio:Freelancehunt
Pisz, omówimy szczegóły i przystąpię do pracy.
-
1 dzień4237 PLN
344 23 1 1 dzień4237 PLNDobry wieczór, mam duże doświadczenie w parsowaniu, sniffingu i inżynierii odwrotnej, piszcie — zrobimy wiatr :)
-
1 dzień2118 PLN
3482 50 0 1 dzień2118 PLNDobry wieczór
Pisz, jestem gotów omówić szczegóły
Odpowiadam:
1. tak, pracowałem z wieloma wątkami, zarówno w parsowaniu, jak i w innych
2. tak, mogę to obejść
3. Tak, pracowałem z API Google Sheets
… Pisz
Gotowy do pracy
-
30 dni4237 PLN
1069 10 0 30 dni4237 PLNPosiadam ogromne doświadczenie w skrapowaniu i wiele zakończonych projektów z wykorzystaniem zapytań (requests, aiohttp) oraz automatyzacji za pomocą przeglądarki (playwright, pyppeteer, selenium), omijania różnych rodzajów zabezpieczeń (akamai, cloudflare) i captcha (reCAPTCHA, captcha obrazkowa, ikona captcha geetest, geetest v3/v4 slide captcha, hCAPTCHA, captcha tiktok, funcaptcha, worldfirstcaptcha, captcha cloudflare), wykonywania logowania i zbierania danych pod autoryzacją (używając ciasteczek, tokenów i sesji)
-
10 dni2118 PLN
6425 74 1 10 dni2118 PLNDzień dobry. Mam duże doświadczenie w różnorodnym parsowaniu, interakcji z różnymi API, google sheet, w tym również.
Ciekawi mnie, aby dowiedzieć się więcej szczegółów na temat TŻ.
Będę zadowolony ze współpracy.
-
20 dni2118 PLN
342 1 0 20 dni2118 PLNDzień dobry!
Jestem gotów podjąć się realizacji twojego zamówienia. Mam doświadczenie w pracy z wielowątkowym parsowaniem danych, omijaniem zabezpieczeń (w tym Cloudflare) oraz integracją z Google Sheets API. Mogę zapewnić stabilny eksport danych z wskazanych zasobów do Google Sheets i bazy danych.
Jestem gotów omówić szczegóły i przystąpić do pracy.
-
13 dni2118 PLN
2737 76 1 13 dni2118 PLNDobry wieczór.
1. Pracowałem z parsowaniem w wielowątkowości.
2. Obejście zabezpieczeń stosowałem, ale nie wszędzie. Na stronie Coinsniper.net trzeba to zbadać i przetestować.
3. Z API Google Sheets jestem zaznajomiony, ale nie pracowałem.
-
Старый парсер работает или нет? Я к тому, что надо решать проблемы с анти-бот системами или дорабатывать функционал?
-
Уже пора перестать страдать хернёй с обходом капчи, и использовать api сервисов.
-
Aktualne zlecenia dla freelancerów w kategorii Parsowanie danych
Parsowanie produktów z supermarketówPotrzebny specjalista (parsowanie + Google Sheets + automatyzacja). Cel: Stworzyć system automatycznego pozyskiwania i aktualizacji cen produktów spożywczych z supermarketów Silpo i NOVUS z wyjściem danych do Google Sheets. Co należy zrealizować: Stworzyć główną tabelę Google… Parsowanie danych, Wyszukiwanie i zbieranie informacji ∙ 1 godzina 52 minuty temu ∙ 20 ofert |
Newsletter LinkedIn
438 PLN
Newsletter LinkedIn Należy uruchomić newsletter LinkedIn na podstawie podanej bazy. 30 000+ kontaktów Czekamy na propozycje E-mail marketing, Parsowanie danych ∙ 1 dzień 9 godzin temu ∙ 9 ofert |
Parsowanie emaili firm z określonej branży
411 PLN
Znajdź kontakty (e-mail, numer telefonu) firm, które zajmują się określonym biznesem, wskazanym w tym dokumencie Google https://docs.google.com/document/d/1_d-iLxLSL3gjRvo1GmUpWNm0Pm5YoKGcEvaiDc_2I0g/edit?usp=#sharing Wynik ma być w formie tabeli z kolumnami: 1. Telefon w… Parsowanie danych ∙ 2 dni 9 godzin temu ∙ 31 ofert |
Potrzebny parser sklepu internetowego https://www.lcsc.com/należy regularnie (1 raz w miesiącu, lub przy uruchomieniu skryptu) uzyskiwać aktualne informacje o produktach dostępnych w sklepie https://www.lcsc.com/ z katalogu wszystkich działów… Parsowanie danych ∙ 3 dni 14 godzin temu ∙ 43 oferty |
OpenCart — katalog wynajmu sprzętu specjalistycznego
493 PLN
OpenCart — katalog wynajmu sprzętu specjalistycznegoPotrzebne jest uruchomienie katalogu wynajmu sprzętu specjalistycznego na OpenCart.Tematyka:koparkipodnośnikiładowarkigeneratorydźwigirusztowaniainny sprzęt budowlany.Preferowane, abyście mieli już gotowy szablon lub… Programowanie stron internetowych, Parsowanie danych ∙ 4 dni 7 godzin temu ∙ 59 ofert |