Бюджет: 27000 UAH Срок: 7 дней
Оценка - 35 000 грн, срок - 7 дней после доступа к ТЗ и примеру кода.
ПО такой задаче я бы делал не четыре разрозненных скрипта, а общую цепочку обработки - загрузка, прокси, разбор, нормализация, дедупликация, хеш по 3 полям, выгрузка и логирование ошибок. Смотрите, тут нюанс - прокси и защита каталогов часто съедают больше времени, чем сам разбор страниц, поэтому проверю это на первых 1-2 сайтах.
Вопросы
> какие именно каталоги и какой выход нужен - CSV, база, API или файл для вашей системы
> дедупликаци нужно делать только внутри одного сайта или между всеми 4 источниками
Похожие примеры Ingello
> https://business.ingello.com/prime-eva - похоже по работе с товарными данными и операционной автоматизацией
> https://business.ingello.com/vorfahr - близко по интеграциям, цепочкам обработки и данным
> https://systems-fl.ingello.com - основная страница по системной разработке
Для старта нужны ТЗ, пример кода, тестовые прокси или требования к ним, формат результата и критерии, по которым считаем запись дублем. В целом норм, можно не усложнять - сперва делаем устойчивое ядро, затем подключаем 4 источника =)