Парсинг сайтов поставщиков
Есть около 30 сайтов поставщиков.
на каждом сайте вход по логину паролю. (некоторые без авторизации)
сайты на разных платформах,
XML выгрузки у поставщиков нет.
сейчас работает система парсинга, но хочется все переписать или доработать современнее.
Сейчас реализован простой сайт с поиском, раз в сутки ночью происходит парсинг.
Результат выдает: фото, название, цена, наличие и имя поставщика.
Если все с 0 переписывать, то вот :
http://b2b.spartakelectronics.com/ru/login
http://www.golden-house.od.ua/
https://tec-star.com.ua/
http://masterberg.com.ua
https://elite-top.com.ua/
http://www.dtopelectronic.com.ua/
https://daikens.com.ua/
https://rainberg.in.ua/
https://lambix.prom.ua/g35022709-tovar
https://magnitopt.com.ua
https://shop-euromax.od.ua/
http://texnano.com.ua
https://hi-tech-odessa.com.ua/
https://b2b.delltalife.com/login/
http://www.andopt2.com.ua/
https://www.smartopt.com.ua/
https://matrix7km.com/
Melad.com.ua
https://venera7km.com.ua/
https://domte.com.ua/
http://hj-pheenecs.com.ua/
Эти добавить надо:
https://bmaudio.com.ua/
https://atlanfa.com.ua/
http://www.gold-tor.com.ua/
http://asad.in.ua
Эти перестали работать:
https://jarviz-opt.com.ua/
jmaxtvshop.com.ua
https://211.in.ua
http://www.top-kitchen.com.ua/
Текущая версия написана на python с библиотеками requests, bs4, lxml
В видео текущая версия
Цена и сроки и как лучше всего сделать
Приложения 1
-
Напишу всё качественно с нуля, используя быструю асинхронную библиотеку для парсинга, а также напишу веб-страницу поиска по более современному.
-
Добрый день. Долгосрочный проект, но готов рассмотреть. Сразу скажу, что на момент написания ставки я сайты НЕ смотрел. Оставляю ставку, чтобы Вы могли понимать приблизительные сроки и бюджет - указываю минимальные, за которые готов рассмотреть Ваше предложение. Если приблизительная оценка Вас устраивает - пишите, будем договариваться о точной.
P. S. Максимальный бюджет обычного Сейфа - 27 тысяч гривен. Моя ставка - 30 тысяч.
-
66 Здравствуйте, имею большой опыт в разработке парсеров и умею работать с сайтами.
Сможем поставить сайт на хостинг, и если нужно на ваш домен кастомный, или на бесплатный, чтобы доступ был не только локально у вас.
Если интересно, пишите в личку, обсудим.
Готова поддерживать проект в дальнейшем времени и улучшать, за отдельную плату
-
986 12 1 Разрабатывал похожий парсер для служб доставки, а также парсер с подобными параметрами поиска для сайта «Таврия В». Могу предложить решение в виде программы, которая будет запускаться по расписанию с гибкими настройками интервалов и времени работы парсера.
-
172 1 1 Здравствуйте! Готов выполнить данный проект есть большой опыт разработки различных приложений
-
1562 7 0 Я вхожу в топ-5 разработчиков в категории «Искусственный интеллект и машинное обучение» среди ~2100 специалистов на платформе. Гарантирую: - Быстрое и качественное выполнение задания - Четкое соблюдение дедлайнов - Регулярная связь на протяжении всего процесса Буду рад обсудить детали вашего проекта в личных сообщениях.
-
1422 13 0 Здравствуйте!
Задачу понял. Имею опыт в разработке крупных систем парсинга.
На мой взгляд, лучше сделать сейчас - не «косметически латать», а:
- унифицированный результат
- возможность легко добавлять / отключать сайты
- часть сайтов перевести на Playwright (где JS / антибот)
- оставить requests там, где возможно (скорость)
… Оценка стоимости
- Переписать все с нуля:
Архитектура + базовый движок
Перепись всех сайтов с добавлением антибот системы
Подключение новых сайтов
Логи, стабильность
Стоимость: ~25 000 грн
Срок: 4–5 недель
- Добавление или редактирование одного сайта
Адаптация под новую верстку
Авторизация (если есть)
Встраивание в существующую систему
1000 грн / сайт
Срок: 1–2 дня / сайт
По сайтам
Сайты из списка добавить - без проблем
Сайты, которые перестали работать - нужно смотреть, что именно сломалось (JS, captcha, изменения верстки)
Готов обсудить, как лучше, в личных сообщениях
-
682 6 0 то что Вы показываете с фильтрами и картинками н видео - это уже результат парсинга и отображается из базы данных.
Парсеры, судя по всему разработаны и вставлены в планировщик чтобы можно было независимо запускать, но я больше чем уверен что без нужды туда никто не ходит и если что-то сломалось то вы просто не будете об этом знать
Cкорее всего все написано на Python + Flask + Bootstrap. какая база данных используется трудно сказать, нужно смотреть в код.
сделано просто, но оно скорее всего работало и вас устраивало. если бы программист поправлял то что отваливалось то туда никто и не смотрел бы дальше.
Чтобы можно было из мира смотреть - можно разместить на внешний хостинг за 5$ в месяц и все будет прекрасно работать и видеть можно будет только по паролю.
Нужно понимать ВСЕ ваши претензии к тому что есть, после этого можно сказать что нужно сделать и посчитать время-бюджет.
может вам и так нормально, просто надо поправить чтобы поломаные работали :) давайте обсуждать и договариваться
-
1860 21 0 Здравствуйте. Можно и сделать возможность открывать удалённо, можно и переписать всё с нуля, можно и более удобную форму использования придумать, можно и даже без планировщика всё реализовать. Кратко, можно вообще всё, всё зависит от вашего бюджета, который вы готовы выделить на подобную задачу. В рамках бюджета я смогу предложить наилучшую реализацию для вас.
Ещё пару слов о возможности открывать сайт удалённо. Если этот парсинг уже происходит у вас на отдельном арендованном сервере на хостинге, тогда с этим проблем не будет. А если у вас это на вашем компьютере всё происходит, тогда точно понадобится арендованный сервер для этого.
Также мне понадобится исходники этих python скриптов, чтобы оценить уже проделанную работу и объём будущих работ по переписыванию с нуля, если такое решение будет принято.
-
1251 35 1 3 Здравствуйте, готов выполнить. За плечами большой опыт. Пишите в личку обговорим.
-
8793 60 0 1 Добрый день. Могу предложить разработать инструмент который никогда не подведет.
Занимаю топовую позицию по питону.
С радостью выполню этот проект
-
4150 8 0 1 Добрый день.
Наша команда имеет многолетний опыт в разработке ERP, CRM, CMS и специализированного программного обеспечения для бизнеса. Мы создаем эффективные цифровые решения, которые помогают автоматизировать процессы, повышать производительность и масштабировать компании.
Работаем с современными технологиями — от ботов и скриптов до AI-агентов и аналитических систем. Разрабатываем сайты различной сложности. В нашем портфолио — реализованные ERP-решения для гостиничного бизнеса, а также для компаний, занимающихся импортом и продажей товаров, а также собственный продукт XFitness — ERP-система, созданная специально для фитнес-клубов.
Мы специализируемся в таких сферах:
- Разработка ERP Систем
- Разработка CRM Систем
- Разработка Веб-Сайтов любой сложности
… - Разработка CMS Систем
- Поддержка Веб-Сайтов
- Разработка OpenCart
- Поддержка OpenCart
- Модификация OpenCart
- Доработка OpenCart
- Разработка WordPress
- Поддержка WordPress
- Модификация WordPress
- Доработка WordPress
- Разработка ECommerce
- Поддержка ECommerce
- Модификация ECommerce
- Доработка ECommerce
- Разработка Веб-Приложений
- Поддержка 1С Серверов
- Поддержка Веб-Серверов
- Разработка мобильных приложений
- Парсинг данных
- Разработка ботов
- Разработка AI-агентов
и на таких технологиях:
- Python
- PHP
- Laravel
- Symfony
- Yii2
- JS
- NodeJS
- jQuery
- TypeScript
- MySQL
- HTML
- CSS
- Vue
- Nuxt.js
- React
- React Native
- C++
-
2263 25 1 Здравствуйте, python разработчик с опытом более 5 лет, парсингом занимаюсь более 4. Проект большой, так как нужно сделать модули под каждый веб-сайт. В целом ваш стек уместен, так как сайтов много и это самый быстрый вариант, однако не самый безопасный. Я просмотрел несколько веб-сайтов и парсинг там можно провести без авторизации и защиты сильной нет, поэтому можно использовать текущий стек, однако нужно просмотреть весь список, так как для некоторых возможно потребуется использование антидетект браузеров для эмуляции. Указываю сроки, за которые я уверен, что я это выполню, и цену с учетом дополнительного кода под веб-сайты с лучшей системой безопасности. В целом реализовать не проблема, тут просто вопрос времени на обработку всех веб-сайтов. Если вас устраивают условия, то пишите в личные сообщения, пообщаемся и буду рад сотрудничеству!
-
130 Добрый день. Я работал с очень многими парсерами, обходя защиту клаудфлара, используя авторизацию и т.д. Могу взяться за ваш парсер. Опыт с библиотеками указаными вами есть, но думаю что прийдеться их заменить, т.к. при малейшей защите сайта - код сломаеться. Напишите в личку, я хотел бы осмотреть уже готовый код, тогда получиться назвать точную цену, но думаю что будет +- как указаная.
-
1101 7 1 Привет!
Есть опыт в парсинге сайтов с различными механизмами авторизации, недавно реализовал систему сбора данных с нескольких торговых платформ, используя Python, BeautifulSoup и Requests.
Я перепишу вашу систему парсинга с нуля, применив современные практики, такие как асинхронность через aiohttp, что позволит значительно ускорить процесс сбора данных. Буду извлекать информацию (фото, название, цена, наличие) в соответствии с вашими требованиями.
Это решение обеспечит гибкость в дальнейшей модернизации, а также сможет адаптироваться под новые сайты без лишних усилий. Давайте обсудим детали!
-
324 Здравствуйте! У меня есть опыт парсинга сайтов и автоматизации маркетплейсов, в частности с Prom.ua, OLX. Думаю, что переписывать систему с нуля не обязательно — целесообразнее оптимизировать текущий код на requests/bs4 и интегрировать новых поставщиков в существующую архитектуру.
Напишите в ЛС для детального обсуждения технических нюансов и сроков реализации.
-
250 37 1 2 Добрый день,
Хочу попросить вас просмотреть файлы текущей реализации системы парсинга и дать обратную связь по возможному обновлению или полному переписыванию решения.
-
115 34 4 2 Добрый день.
Задача ясна.
Парсеры будут на впс, всё будет работать без Вашего участия.
Будет сайт который можно открывать удалённо, можем добавить фильтры или расширенный поиск если нужно.
Касательно цены - нужно посмотреть пару примеров парсеров которые уже работают, выйдет ли их адаптировать.
Пишите - всё обсудим.
-
358 1 0 Добрый день!
У меня есть опыт разработки систем парсинга и автоматизации на Python. Вижу, что у вас сейчас работает базовое решение, но для современного уровня лучше построить модульную систему, где каждый сайт будет иметь свой адаптер. Это позволит легко добавлять новые источники и поддерживать стабильность при изменениях.
-
588 0 1 Здраствуйте, могу вам насрепить данных (~3000 товаров 90 долларов) с разных сайтов. Только распишите подробнее какие данные нужны и куда положить их. Буду рад сотрудничеству.
-
414 1 0 Здравствуйте,готов сделать,надо обсудить детали проекта в ЛС и модно начать работц
-
Здравствуйте.
Нужно все сайты смотреть... -
Можно поинтересоваться, почему отклоняете почти все ставки подряд?
От людей с опытом в разработке парсеров и не только.
-
Даний замовник виставляє не свої проекти а копіює їх з іншого сайту фрілансу на якому від імені фрілансера пише що готовий виконати все якісно. При цьому ставить там високу ціну а тут хоче знайти хто йому виконає дешево
-
Актуальные фриланс-проекты в категории Python
Телеграм-бот для найма/поиска работников. Для поиска работы
1100 UAH
1. Общая концепция Создание Telegram-бота для автоматизации подбора персонала и двустороннего поиска работы. Система работает по принципу активного отклика и взаимного подтверждения интереса (Double Opt-In). В системе предусмотрены две роли: Работодатель (Владелец фирмы) и… Python, Разработка ботов ∙ 1 день 2 часа назад ∙ 82 ставки |
Техническая поддержка веб-платформы (Python/Django)Есть работающий веб-проект, нужно поддерживать и постепенно приводить в порядок, без переписывания с нуля. Стек проекта: Backend: Python, Django, Django Rest Framework Frontend: Next.js База данных: PostgreSQL Инфраструктура: AWS (EC2), Nginx Есть интеграции с внешними API… Python, Веб-программирование ∙ 1 день 4 часа назад ∙ 67 ставок |
Разработка веб-сервиса с платным доступом к онлайн-чатуДобрый день, необходимо разработать веб-сервис, который включает: * персональные ссылки для пользователей; * страницу с описанием услуги; * оплату через PayPal; * онлайн-чат в реальном времени; * отображение видео на странице пользователя; * учет оплаченного времени и… Python, Веб-программирование ∙ 2 дня 5 часов назад ∙ 74 ставки |
Создание приложенияЖелаю создать мобильное приложение для общения, в приложении должны быть аудио, видео звонок, создание групповых чатов, возможность синхронизировать с контактами телефона, настройками аккаунта: привязка по email, 2fa, номеру телефона, возможность настраивать уведомления… Java, Python ∙ 3 дня 3 часа назад ∙ 36 ставок |
Настройка двусторонней интеграции WhatsApp с Odoo CRMЗдравствуйте! Ищем специалиста для реализации технического задания по настройке двусторонней интеграции мессенджера WhatsApp с CRM-системой Odoo. ⚠️ Важное техническое уточнение: Официальный WhatsApp Business API (WABA) не рассматривается. Необходимо внедрить стабильное «серое»… Python, Веб-программирование ∙ 3 дня 13 часов назад ∙ 24 ставки |