Нужно создать прайс-агрегатор включая парсинг и матчинг товаров. Основная проблема которую хотим решить - получение обновляемого регулярного фида сматченых товаров из разных магазинов.
План-минимум - ежедневно обновляемый фид сматченых товаров.
Структурные блоки прайс-агрегатора:
1. Карточка товара с картинками, описаниями и характеристиками товаров. Саму карточку и характеристики товаров нужно спарсить. Один и тот же товар в разных интернет магазинах может называться по разному и иметь различный артикул. Товар должен матчиться и привязываться к карточке товаров. Внутри карточки видно стоимость и наличие по магазинам и есть возможность сортировки/фильтрации.
2. Категоризатор с деревом категорий. В разных магазинах категории/подкатегории имеют разную структуру и называются по разному, нужно чтобы они парсились и правильно матчились.
3. База товаров, наличия и цен. Цены и наличие товаров должны ежедневно обновляться. В базе может быть 200,000-2,000,000 товаров. Магазинов с которых нужно парсить может быть 1000-3000. Для старта можно ограничиться 100,000 товаров и 50 магазинами.
4. Фильтры. Возможность фильтровать товары по характеристикам. В каждой группе товаров должны быть свои фильтры (для обуви - размер, цвет, материал, бренд, утепление и т.д., а в пылесосе - тип пылесборник, тип уборки, мощность всасывания, насадки, вес и т.д.). Характеристики и фильтры для каждой категории нужно спарсить.
Примеры магазинов для парсинга: mvideo, эльдорадо, связной, lamoda, asos, Перекресток, Остин.
Примеры похожих проектов: hotline.ua, e-katalog.ru, yandex market.
Автоматический матчинг — сбор информации с сайтов интернет-магазинов и автоматические сопоставление с вашим ассортиментом.
1. Карточка товара с картинками, описаниями и характеристиками товаров. Саму карточку и характеристики товаров нужно спарсить.
Если у Вас есть свой ассортимент тогда это матчинг. А то что Вы накатали просто парсер.
25 октября 2019
Согласен что задание немного размытое.
Давайте голосом по скайпу если вам интересен проект.
Каждый сайт имеет свою структуру и требует написания отдельных правил парсинга. Сайты типа hotline не парсеры, в них люди самостоятельно загружают прайс-листы. Hotline-бот не ходит по сайтам. Вы готовы оплачивать написание такого количества парсеров? А если сайт изменит структуру, то парсер необходимо переписывать. А если забанит?
Разные сайты могут называть разные товары одинаково. Как предполагается их различать?
Количество товаров в вашем проекте не имеет значения для того, кто умеет грамотно организовать структуру.
25 октября 2019
Давайте голосом по скайпу. Если вам интересен проект.
Давайте голосом
У меня не показывается ваш скайп в профиле, напишите пожалуйста сообщением
То, что вы хотите сделать - понятно. Подход изначально ошибочен. В предидущем посте вам кратко изложили технические сложности. А есть еще финансовые, административные, правовые, сеошные. В общем, нужно либо делать по-другому, либо вложить кучу бобла в разработку ПО и коллектив, и затем, с высокой степенью вероятности, их назад не вернуть. Та работа, которую вы описали - я даже примерно затрудняюсь ее оценить, но это очень дорого. И работать должна команда. Если кто-то возьмется все сделать один и за неделю - это развод.
25 октября 2019
Спасибо за ценный комментарий
Я готов воплощать любые хотелки клиента, особенно на постоянной основе. Но и чтобы клиент отдавал себе отчёт в том, что его проект будет представлять и как будет реализован, и за какую цену
Да бог с Вами. Задача размытая и как Вы верно указали сложно цену и время реализации нарисовать.
необходимо организовать способ сбора новосозданных ФОПов и по возможности ТОВ. парсинг это, или что-то еще - скажите вы, каким это должен быть способ
Добрый день,Я поручаю создание стабильного и надежного решения для автоматического мониторинга цен и доступности продуктов из конкретного, крупного польского интернет-магазина в области RTV/AGD.Цель проекта: Система должна регулярно проверять выбранные продуктовые ссылки и в случае изменения цены или статуса доступности отправлять уведомление (предпочтительно в Telegram, Discord или по электронной почте – по согласованию).Задача: Сайт магазина имеет очень агрессивные антибот-системы (Akamai/Cloudflare). Обычные скрипты, загружающие код страницы, немедленно обнаруживаются и блокируются. Решение должно эффективно обходить эти защиты, маскировать трафик бота и работать стабильно в долгосрочной перспективе, без постоянного появления ошибок "Access Denied".Что я ожидаю от исполнителя: Предложить полную архитектуру и технологии (я не навязываю язык программирования или конкретные инструменты). Предоставить готовое решение, которое я смогу легко запустить и управлять им. Советы по инфраструктуре (например, какие прокси будут необходимы для бесперебойной работы системы).В ответ на объявление прошу кратко описать: Какой подход/технологию вы предлагаете, чтобы эффективно и в долгосрочной перспективе обходить защиты этого магазина? Как вы видите вопрос передачи уведомлений? Какова ориентировочная стоимость выполнения и срок реализации?Приглашаю к подаче заявок.
О компании Торговая компания. Работаем с товарной группой более 2000 позиций по разным категориям.Текущая ситуация Сейчас номенклатура ведётся в Google Sheets — данные консолидированы по вкладкам (категориям). Структура вкладок: Наименование товара Группы цен: себестоимость, опт, розница Характеристики: вес, количество в упаковке и т.д. Важно: количество колонок отличается для разных категорий товаров, так как у них разные характеристики.Почему текущее решение не подходит Google Sheets не позволяет настраивать права доступа на уровне отдельных колонок. Нам нужно: Давать пользователям права на просмотр определённых колонок (например, только себестоимости) Давать права на редактирование определённых колонок (например, розничных цен) При этом ограничивать доступ к остальным колонкам в той же вкладкеЧто нужно сделатьОсновные требования Гибкая система разграничения прав Доступ на уровне отдельных колонок (чтение / запись) Назначение прав по ролям или пользователям Управление правами без участия программистов Поддержка разной структуры данных Разные категории товаров имеют разный набор характеристик Добавление новых колонок/характеристик без программирования Независимость от разработчиков Администрирование силами внутренних сотрудников Добавление категорий, колонок, пользователей — через интерфейс Интеграция с ERP Выгрузка актуальных цен в нашу ERP-систему Экспорт или автоматическая интеграция по API Анализ данных с помощью ИИ (желательно) Возможность анализа всего перечня номенклатуры Обогащение, проверка, рекомендации — если у вас есть идеи, опишитеОжидаемый результат Работающее решение, в котором: Номенклатура структурирована по категориям с разными наборами характеристик Права на колонки гибко настраиваются (просмотр / редактирование) Данные выгружаются в ERP Команда может управлять системой самостоятельноЧто нужно от вас при отклике Опишите в общих чертах, как вы видите решение: Какой инструмент / платформу предлагаете
Добрый вечер, есть задача: нужно 1-2 раза в день проверять наличие и актуальность цен товаров, которые добавлены на сайт (сайт на платформе prom.ua) с сайта поставщика. Можете рассчитать цену и как это будет выглядеть.
Настроить автоматическое обновление раз в день наличия товаров на нашем сайте на пром.юа. У нас есть поставщик, он отправляет прайс-лист товаров в эксель-формате на нашу электронную почту каждый день. Артикулы на нашем сайте и в прайсе поставщика одинаковые. Значение в столбце "остатки" либо отсутствует, либо число, либо больше ящика - нужно обновлять на сайте в состояние Готово к отправке или Нет в наличии. Артикулы, которых нет в прайсе поставщика - оставлять без изменений. Предложите, пожалуйста, решение, срок и бюджет. Спасибо за отзыв заранее, жду специалиста для сотрудничества.