Здравствуйте.
Есть парсеры сайтов rebuy.de и momox.de работающие синхронно, написанные на Python3 в докере под Убунту 20.04. Данные сохраняются в MySQL.
Проблема есть с сайтом rebuy.de - банит прокси через 3-5 дней.
При снижении скорости банит меньше, но тогда сокрость ниже требуемой.
Главная цель - достичь скорости стабильного парсинга 400-500 товаров/минута на обоих сайтах при вменяемой стоимости прокси - не более 100$/месяц(с сайтом momox.de это достаточно легко).
Как вариант, рассматриваю переделку парсера ребай под работу через браузер для избежания бана прокси или любой другой действенный способ.
Код отправлю в личном сообщении, тем, кто заинтересуется.
Budżet: 2000 UAH Termin: 5 dni
Готов попробовать реализовать rebuy.de парсер, под windows в программе ехе, поклацал , обошел первичную защиту окна проверку браузера на запросах. , напишите что нужно собирать, что бы я запустил на том этапе что есть у меня и проверил сбор.
Budżet: 5000 UAH Termin: 5 dni
Доброго дня. Python є основною моєю мовою програмування, тому знаю його досконало (реалізую саме на ньому), маю досвід написання парсерів та роботою з БД, капчами і тд. Зроблю парсер за 15 робочих годин. Реалізую за допомогою Selenium headless.
Також працюю з : Django, Kivy, Pygt5, PySide, Tkinter, Selenium і тд. Пишіть в ЛС, є приклад роботи у портфоліо. Потрібно уточнити декілька моменів в ЛС. Буду радий з вами співпрацювати)
Не боїтеся що власник сайту, може рано чи пізно заяву кинути?😁
11 listopada 2020
Ваш вопрос не относится к задаче проекта. Задавайте вопросы по существу.
Не питаня по проекту, бомбити 5 запросів на секунду сайт, на постояні основі це не дуже добре
11 listopada 2020
Это вопрос этики. Сайт публичный, к нему имеют доступ миллионы людей. В процентном соотношении к общей нагрузке мои запросы = менее 1%. Сайт рассчитан на эту нагрузку.
Законодательные и авторские ограничения, которые установлены правилами сайта соблюдены в полной мере.
Форум проекта рассчитан на обсуждение по его выполнению, а не дискуссии о морали и правилах.
Этими вопросами Вы сами же и нарушаете правила Фрилансхант.
Если Вы такой блюститель правил, начните с себя и соблюдайте их сами прежде всего.
Прочтите информацию перейдя по ссылке на ПРАВИЛА на форуме проекта:
"Ставки в форуме проекта запрещены. Также не забудьте ознакомиться с правилами общения. ".
Ви не думали чого вас банять через пару днів , а не зразу.Якщо припустити що там є якась защіта яку ви не обійшли, то сайт має забанити через хвилин 10-30, а тут 4 дня.Може там, злющий власник сайту сидить?І 5 запросів на секунду протягом місяця(року), це не так мало, під такі запроси, можна виділяти окремий сервер😁
Законодательные и авторские ограничения, которые установлены правилами сайта соблюдены в полной мере.
Там такі написано 5 запросів на секунду можна, це не DOS,це просто ми вас парсим😁 рік)
У меня вопрос довольно простой. Я так понимаю вас банят раз в 3-4 дня, из-за того что вы парсите весь сайт? Я правильно понимаю?
Я посмотрел на сайт, и хотелось бы уточнить, какую именно информацию должен грабить парсер, и насколько часто это информация обновляется?
11 listopada 2020
Банят, раз в 3-4 дня.
Парсю по категориям.
Информацию о товарах: титл, дескпришн, цены.
Обновляется минимум раз в сутки, а то и чаще, но не по всем товарам.
можно ли не проваливаясь в карточку товара определить изменилась ли информация или нет? Как часто нужно парсить этот сайт.
Сейчас основная проблема в том, что они поставили защиту, как минимум для браузера, с задержкой открытия страницы. Правда с VPN из под немецкого ip я не пробовал заходит, но сам факт защиты есть.
11 listopada 2020
можно ли не проваливаясь в карточку товара определить изменилась ли информация или нет?
этого не знаю
Как часто нужно парсить этот сайт.
постоянно
Сейчас основная проблема в том, что они поставили защиту, как минимум для браузера, с задержкой открытия страницы. Правда с VPN из под немецкого ip я не пробовал заходит, но сам факт защиты есть.
с IP Европа/США/Англия открывается без проверки
с США быстрее всего
постоянно
я имею ввиду переодичность. Раз в час, раз в сутки, раз в двое суток.
этого не знаю
Здесь вопрос простой. Там каждый товар имеет в url свой уникальный id из их базы данных. По нему можно идентифицировать товар. меня интересует, насколько часто меняется информация по конкретному товару, не считая цены, что бы понимать, возможно ли вообще обойти бан или ограничения за счет, уменьшения количества запросов. к их серверу.
с IP Европа/США/Англия открывается без проверки
Проверка все равно есть
это с американского ip, проверка появляется меньше, но примерно каждый 4 запрос сделанный в течении 1-2 секунд, выдает это. Так что вам вряд ли удастся не снижая количество запросов, обойти защиту эмуляцией браузера, или не договорившись с владельцем об открытой выгрузке.
11 listopada 2020
я имею ввиду переодичность. Раз в час, раз в сутки, раз в двое суток.
выполняется непрерывно, там по 4м интересующим меня категориям в сумме около 6 миллионов товаров, поэтому, как только спарсили все, парсим заново. практически сразу
Здесь вопрос простой. Там каждый товар имеет в url свой уникальный id из их базы данных. По нему можно идентифицировать товар. меня интересует, насколько часто меняется информация по конкретному товару, не считая цены, что бы понимать, возможно ли вообще обойти бан или ограничения за счет, уменьшения количества запросов. к их серверу.
информация о товаре не считая цены обновляется редко,но новые товары добавляются каждый день, хоть и немного(около 1000)
это с американского ip, проверка появляется меньше, но примерно каждый 4 запрос сделанный в течении 1-2 секунд, выдает это. Так что вам вряд ли удастся не снижая количество запросов, обойти защиту эмуляцией браузера, или не договорившись с владельцем об открытой выгрузке.
может быть Ваш IP shared или недостаточно непрозрачный, либо они усилили защиту.
Кол-во запросов можно уменьшить, только покупая больше IP, вот нужно найти решение учитывая месячный бюджет на прокси и требуемую сокрость.
при парсинге запросами мы обращаемся напрямую к АПИ, оно у них открыто
пытались договориться с владельцем, но не удалось, сказали используйте как есть - use as is
тіпа власник, знає)цікаво😁 Наверно того там стільки защіти
https://www.rebuy.de/kaufen/suchen?q=s
нащо вам парсити всьой сайт, ось пошук беріть звідси ціну
11 listopada 2020
ну хоть одно сообщение по делу!
теоритически, замечание дельное, только кроме цен и титлов нужны еще описания товаров.
также, на сайте представлено 4 цены в зависимости от состояний товаров: новый, как новый, бу, плохой бу, которые не вижно по выдаче из поиска
Опис у вас є , вже по ідеї ви вже його раз парсили.
Ну це рішається, тим що ви вже його раз спарсили і знаєти в яких товарах так, і в ті товари треба заходити
11 listopada 2020
логично, ну так делайте ставку ;-)
11 listopada 2020
если не можете что-то добавить по решению задачи проекта - не засоряйте форум своими сообщения, пожалуйста.
Решения - це зменшення кількості запросів, за допомогою гібридного парсінга пошука і підкатегорій, і самих карточок, це має зменшити кількість запросів, ,відсотків так на 80
11 listopada 2020
ну, раз Вы знаете, что и как делать, почему не делаете ставку?
11 listopada 2020
ну, раз Вы знаете, что и как делать, почему не делаете ставку?
11 listopada 2020
ну, раз Вы знаете, что и как делать, почему не делаете ставку?
11 listopada 2020
ну, раз Вы знаете, что и как делать, почему не делаете ставку?
ну поперше там якась бешена защіта, цікава, обійти можна канешно, а по друге вмене немає зараз часу, вмене своїх проектів хватає) на місяць вперед
11 listopada 2020
ясно, т.е. Вы тут поболтать...
konieczne jest zorganizowanie sposobu zbierania nowo utworzonych FOP-ów oraz, jeśli to możliwe, TOW. czy to ma być parsowanie, czy coś innego - powiedzcie, jaki to ma być sposób
Dzień dobry,Zlecę stworzenie stabilnego i niezawodnego rozwiązania do automatycznego monitorowania cen oraz dostępności produktów z konkretnego, dużego polskiego sklepu internetowego z branży RTV/AGD.Cel projektu: System musi regularnie sprawdzać wybrane linki produktowe i w przypadku zmiany ceny lub statusu dostępności, wysłać powiadomienie (najchętniej na Telegram, Discord lub e-mail – do ustalenia).Wyzwanie: Strona sklepu posiada bardzo agresywne systemy antybotowe (Akamai/Cloudflare). Zwykłe skrypty pobierające kod strony są natychmiast wykrywane i blokowane. Rozwiązanie musi skutecznie omijać te zabezpieczenia,maskować ruch bota i działać stabilnie w dłuższej perspektywie, bez ciągłego wywalania błędów "Access Denied".Czego oczekuję od wykonawcy: Zaproponowania kompletnej architektury i technologii (nie narzucam języka programowania ani konkretnych narzędzi). Dostarczenia gotowego rozwiązania, które będę mógł łatwo uruchomić i nim zarządzać. Podpowiedzi w kwestii infrastruktury (np. jakie proxy będą niezbędne, aby system działał bezproblemowo).W odpowiedzi na ogłoszenie proszę krótko opisać: Jakie podejście/technologię proponujesz, aby skutecznie i długofalowo omijać zabezpieczenia tego sklepu? Jak widzisz kwestię przekazywania powiadomień? Jaki jest orientacyjny koszt wykonania oraz czas realizacji?Zapraszam do składania ofert.
O firmie Firma handlowa. Pracujemy z grupą towarową liczącą ponad 2000 pozycji w różnych kategoriach.Aktualna sytuacja Obecnie nomenklatura jest prowadzona w Google Sheets — dane są skonsolidowane według zakładek (kategorii). Struktura zakładek: Nazwa towaru Grupy cen: koszt własny, hurt, detal Charakterystyki: waga, ilość w opakowaniu itd. Ważne: liczba kolumn różni się w zależności od kategorii towarów, ponieważ mają one różne charakterystyki.Dlaczego obecne rozwiązanie nie jest odpowiednie Google Sheets nie pozwala na ustawienie praw dostępu na poziomie poszczególnych kolumn. Potrzebujemy: Przyznawania użytkownikom praw do wyświetlania określonych kolumn (na przykład tylko kosztów własnych) Przyznawania praw do edycji określonych kolumn (na przykład cen detalicznych) Ograniczenia dostępu do pozostałych kolumn w tej samej zakładceCo należy zrobićPodstawowe wymagania Elastyczny system rozgraniczenia praw Dostęp na poziomie poszczególnych kolumn (odczyt / zapis) Przydzielanie praw według ról lub użytkowników Zarządzanie prawami bez udziału programistów Wsparcie dla różnych struktur danych Różne kategorie towarów mają różny zestaw charakterystyk Dodawanie nowych kolumn/charakterystyk bez programowania Niepodległość od programistów Administracja przez wewnętrznych pracowników Dodawanie kategorii, kolumn, użytkowników — przez interfejs Integracja z ERP Eksport aktualnych cen do naszego systemu ERP Eksport lub automatyczna integracja przez API Analiza danych z wykorzystaniem AI (pożądane) Możliwość analizy całej listy nomenklatury Ubogacanie, weryfikacja, rekomendacje — jeśli masz pomysły, opiszOczekiwany rezultat Działające rozwiązanie, w którym: Nomenklatura jest zorganizowana według kategorii z różnymi zestawami charakterystyk Prawa do kolumn są elastycznie konfigurowane (wyświetlanie / edytowanie) Dane są eksportowane do ERP Zespół może samodzielnie zarządzać systememCo potrzebujemy od Ciebie przy odpowiedzi Opisz w ogólnych zarysach, jak widzisz rozwiązanie: Jakie narzędzie / platformę proponujesz
Dobry wieczór, jest zadanie: trzeba 1-2 razy dziennie sprawdzać dostępność i aktualność cen towarów, które zostały dodane na stronę (strona na platformie prom.ua) z strony dostawcy. Możecie obliczyć cenę i jak to będzie wyglądać.
Skonfigurować automatyczne aktualizacje raz dziennie dostępności towarów na naszej stronie na prom.ua. Mamy dostawcę, który codziennie wysyła cennik towarów w formacie Excel na nasz adres e-mail. Artykuły na naszej stronie i w cenniku dostawcy są identyczne. Wartości w kolumnie "zapasy" to albo brak dostępności, albo liczba, albo więcej niż jedna skrzynka - należy aktualizować na stronie do stanu Gotowe do wysyłki lub Brak w magazynie. Artykuły, które nie znajdują się w cenniku dostawcy - pozostawić bez zmian. Proszę zaproponować rozwiązanie, termin i budżet. Dziękuję za wcześniejszą odpowiedź, czekam na specjalistę do współpracy.
