Парсер новостей
Задача: Написать скрипт-парсер для отслеживания обновлений контента на определенных сайтах с дальнейшей его автоматической публикацией.
Алгоритм работы (как вижу я):
С определенным интервалом сайт (раздел сайта либо список страниц) сканируется на наличие обновлений.
Найденный новый контент публикуется на нашем сайте указав дату публикацию раньше, чем на оригинале (например рандомно в пределах -1 час)
Доработка: В дальнейшем скрипт нужно доработать, сделав возможность перед публикацией контента на сайте добавлять его в панель вебмастера Яндекс, в раздел Оригинальные тексты.
Нюансы
Часть сайтов имеет защиту от копирования, все возможные Ddos защиты и блокировку ботов.
По этому (как вижу я):
Нужно иметь список proxy, который будет переключаться в случае блокировки ip
Иметь возможность использовать рандомные интервалы проверки (например в пределах 10 минут рандомно), для обхода защиты от краулеров
Имитировать обычное посещение пользователем (может яндекc бота или типа того)
Сайты, которые уже сейчас нужно запускать в работу:
напишу после выбора исполнителя
Дальнейшее развитие
Планируется создавать клоны и дублировать контент других сайтов, поэтому есть необходимость создания унифицированной платформы (cms) для клонов и работа в связке с парсером.
Доработка: Должна быть реализована возможность самостоятельной настройки парсера без участия программиста.
-
81 Реально сделаю за 2 дня(пока есть время, пока не взял другой проект)!
Построю все на современнейших технологиях!
Абсолютно все равно какая на сайтах защита от парсинга.
Сделаю максимально легкую настройку без участия программиста.
-
231 1 0 О вас расширенное ТЗ , от меня качественная работа, опыт более 7 лет
-
218 1 0 готов реализовать, цена зависит от количества сайтов (подход к каждому из них нужен индивидуальный, т.е. один парсер - один сайт), и что вы хотите настраивать?
-
Какие именно сайты необходимо парсить?
-
Какие именно сайты необходимо парсить
-
Я в ауте. Просьба создать интернет-помойку открытым текстом. По-началу показалось, что это троллинг биржи
-
Aktualne zlecenia dla freelancerów w kategorii Parsowanie danych
Wymagany specjalista ds. promocji w Telegramie.
107 PLN
Zadania: zapraszanie rzeczywistych użytkowników z bazy nazw użytkowników do nowych czatów oraz wysyłanie wiadomości do docelowej bazy. Interesuje nas tylko jakościowy ruch i praca z żywą publicznością — wykonawców korzystających z botów, sztucznego zwiększania lub niskiej… Parsowanie danych, Promocja w sieciach społecznościowych (SMM) ∙ 3 dni 20 godzin temu ∙ 8 ofert |
Zbieranie bazy danych B2B firm w Niemczech
149 PLN
Cel: Uzyskanie listy potencjalnych pracodawców (klientów) do wysyłki B2B. Region: Monachium (München) + promień 50 km. Wymagane nisze: Firmy budowlane (Bauunternehmen) Przemysł spożywczy (Lebensmittelhersteller, zakłady mięsne, piekarnie) Logistyka i kompleksy magazynowe… Parsowanie danych, Sprzedaż i generowanie leadów ∙ 3 dni 23 godziny temu ∙ 34 oferty |
Konsultacja dotycząca parsowania subskrybentów kont InstagramWitam. Konieczne jest przeprowadzenie wstępnej oceny możliwości realizacji następującego zadania. Posiadam listę kont na Instagramie. Celem jest uzyskanie danych kontaktowych (w pierwszej kolejności adresów e-mail) użytkowników, którzy obserwują te konta. Wcześniej spotkałem… Parsowanie danych ∙ 7 dni 15 godzin temu ∙ 13 ofert |
Potrzebny specjalista do wyszukiwania kontaktów decydentów w UkrainieKonieczne jest zebranie bazy (lub gotowej bazy) kontaktów osób podejmujących decyzje (LPR) w firmach Ukrainy. Wyszukiwanie i zbieranie informacji, Parsowanie danych ∙ 7 dni 20 godzin temu ∙ 21 ofert |
Trzeba zeskrobać dane z LinkedInPotrzebujemy wyciągnąć dane z LinkedIn według naszej listy. Dla każdego wpisu należy znaleźć i zebrać dostępne dane, jeśli takie są na profilu LinkedIn, w tym zdjęcie profilowe w serwisie społecznościowym LinkedIn, adres e-mail, linki do mediów społecznościowych, stronę… Parsowanie danych ∙ 8 dni 2 godziny temu ∙ 28 ofert |