Парсинг товаров с сайта
Добрый день.
Есть ресурс https://bit.ly/2ORiReQ
Нужно сделать парсер товаров. Что стоит учесть:
- подгрузка товаров происходит по AJAX
- описание идёт текстом
- характеристики парсятся отдельно
- есть большие изображения (по клику)
- есть документы (можно скачивать, можно не скачивать, если это удорожает разработку)
- парсинг не разовый, а парсим с определённой регулярностью, при этом текущие (спарсенные ранее позиции) обновляем по цене, наличию, а новые добавляем
- возможность, может отдельным скриптом, парсить только цены, без анализа и вытягивания всей информации с карточки товара
- где-то это нужно хранить, соотвественно, предложить вариант, где и как, чтобы потом можно было легко получить все необходимые связанные данные. Предпочтение отдаю MySQL, но выслушаю все варианты.
Что желательно:
- открытый и нормальный код
- никаких привязок и ограничений (например, количество товаров, привязка к домену)
- правила сопоставления характеристик - либо хардкодить, либо предложить вариант, как инструмент, чтобы делать это самостоятельно (например, чтобы color отправляло в Цвет, и не обращаться за доработкой, когда понадобится Weight отправлять в справочник Вес). Можно предлагать стоимость с простым вариантом и нормальным
- возможность подключения proxy по списку для захода на сайт или эмуляция разных подписей браузеров.
Разовый парсинг не интересует.
Чтобы отсечь ботов и не тратить Ваше время на обсуждение, напишите что-либо, касающееся данного проекта. Любой конкретный вопрос, если есть или предложение, как Вы это будете реализовывать.
Приложения 1
-
369 19 0 Какая регулярность парсинга?
"где-то это нужно хранить, соотвественно, предложить вариант, где и как, чтобы потом можно было легко получить все необходимые связанные данные."
В каком формате получать связанные данные?
Сможете арендовать хостинг за 250 руб под парсер?
-
65 Доброго дня готовий виконати швидко і якісно. З відкритим кодом і можливістю допрацювання. Пропоную реалізувати на python з можливою компіляцією в exe файл. Skype - ivan262, viber, telegram - +380660529716
-
700 19 0 Сайт с автообновлением товаров и возможностью расширения в полноценный интернет-магазин.
Скайп wfoojjaec, прочие контакты и реквизиты:
https://wfoojjaec.eu.org/ru/contacts.html
-
1077 65 1 1 Добрый день. Пишите, обсудим все детали. Имеется не малый опыт в написании парсеров. Напишу десктопное приложение на c#. Данные будут храниться в базе MSSQL. Возможно так же сделать выгрузку в любой формат. То, что данные подгружаются ajax-ом не проблема, сталкивался с таким не раз.
Почта: [email protected]
Telegram: @abalduiko
-
75 Добрый день, готов работать быстро и качественно , пишите в телеграм trjakin trjakin (https://t.me/trjakin) обсудим
Актуальные фриланс-проекты в категории Веб-программирование
Разработка простого сайта-каталога (Чехия)Необходимо создать максимально бюджетный, но полностью функциональный сайт-каталог товаров для чешского рынка. Проект краткосрочный (запускается под распродажу остатков товара), поэтому в приоритете — минимальная цена, скорость реализации и простота развертывания. Никаких… HTML и CSS верстка, Веб-программирование ∙ 6 часов 15 минут назад ∙ 45 ставок |
Настройка автоматизации: Форма на сайте → WhatsApp-бот → CRM (Make + WATI)Описание проекта: Есть сайт компании по перевозкам. Клиенты оставляют заявку через форму на сайте — форма приходит на email. Нужно настроить следующую автоматизацию:Этап 1 — Форма → WhatsApp — Когда на почту приходит новая заявка с сайта, система автоматически извлекает имя и… Веб-программирование, Разработка ботов ∙ 7 часов 28 минут назад ∙ 15 ставок |
Хочу научиться создавать сайты по КСГО/КС2Нужен ментор, который научит меня создать CS2/CS:GO сервер. Хочу через Discord/Zoom пошагово разобрать: хостинг/VPS, server.cfg, карты, плагины, админку, бан-систему, Discord, сайт и статистику. Язык: украинский или русский. HTML и CSS верстка, Веб-программирование ∙ 13 часов 10 минут назад ∙ 8 ставок |
Разработка веб-сервиса «Интерактивная ветеринарная стоматологическая карта»Суть проекта: веб-приложение, где врачи могут вести интерактивные стоматологические карты пациентов (кошек и собак) Дизайн интерфейса и все элементы челюсти уже полностью готовы в Figma (векторные SVG с разделением по отдельным зубам) Необходимый функционал: Авторизация и… Базы данных и SQL, Веб-программирование ∙ 13 часов 40 минут назад ∙ 51 ставка |
Ищу программиста или вайб кодинг Автоматизация scraping данных 2https://drive.google.com/file/d/14tP5XWJB9acV4gn_cJrFwMpihUj3EbQz/view?usp=sharing я нечаянно на ту ссылку послал Веб-программирование, Парсинг данных ∙ 16 часов 7 минут назад ∙ 30 ставок |