Бот парсер оголошень з потрібних сайтів за параметрами
1) Загальна інформація
Назва проекту: Бот моніторингу оголошень за заданими параметрами + виключення продавців (“мінус-продавці”)
Мета: Автоматично знаходити нові оголошення на порталах нерухомості/оголошень за заданими фільтрами та надсилати 1 раз на добу підбірку посилань у Telegram (обов'язково) та опціонально в WhatsApp / Email.
Джерела (мінімум):
Wallapop (
es.wallapop.com)Idealista (
idealista.com)Milanuncios (
milanuncios.com)
Бажаний стек: Python, управління через Telegram-бота, розміщення на сервері (VPS).
2) Ролі користувачів та права
2.1 Ролі
Адміністратор: повні права (створення/редагування фільтрів, управління продавцями, управління джерелами, отримувачами, розкладом, перегляд логів/статусу).
Оператор (опціонально): може управляти фільтрами та продавцями, але без доступу до системних налаштувань.
Отримувач: отримує звіти, не управляє налаштуваннями.
2.2 Авторизація
Доступ до управління ботом тільки за списком Telegram user_id (whitelist).
Усі команди управління доступні тільки авторизованим.
3) Функціональні вимоги
3.1 Моніторинг оголошень
Система повинна:
Періодично (за розкладом) перевіряти нові оголошення за заданими фільтрами.
Виявляти та зберігати унікальні оголошення, щоб не надсилати повторно.
Вміти виключати оголошення за “мінус-продавцями” (blacklist sellers) та/або за ключовими ознаками (телефон, id продавця, ім'я/нік, посилання на профіль — залежно від сайту).
Формувати щоденний дайджест (1 раз на добу) зі списком нових оголошень за період.
3.2 Фільтри (налаштування “розділів”)
В інтерфейсі Telegram повинна бути можливість:
Створити фільтр (називається “Розділ” / “Підбірка”).
Для кожного фільтра вказати:
Джерело: wallapop / idealista / milanuncios (можна кілька)
Параметри пошуку (див. 3.3)
Включено/виключено
Отримувачі (кому надсилати: TG/WA/email)
Частота: за замовчуванням 1 раз/добу (час надсилання налаштовується)
Редагувати фільтр
Видаляти фільтр
3.3 Параметри пошуку (мінімальний набір)
Для кожного джерела повинні підтримуватися параметри (по можливості ресурсу):
Локація (місто/регіон/провінція, радіус якщо можливо)
Тип об'єкта (квартира/будинок/кімната і т.п. — якщо застосовно)
Ціна: min/max
Площа: min/max (якщо доступно)
Кількість кімнат: min/max (якщо доступно)
Ключові слова включити/виключити (include/exclude)
Додаткові параметри: поверх, ліфт, новобудова/вторинний ринок, стан і т.п. (опціонально)
Сортування (за датою публікації, newest first — пріоритет)
Важливо: якщо ресурс не дозволяє частину параметрів через URL/пошук, бот повинен робити постфільтрацію за полями картки (якщо ці поля вдається стабільно витягувати).
3.4 “Мінус-продавці” (blacklist)
Потрібно вміти:
Додати продавця в blacklist:
за посиланням на профіль продавця (якщо є)
за seller_id (якщо доступно)
за ім'ям/ніком (як запасний варіант)
за телефоном/контактом (якщо публікується)
Видалити продавця з blacklist
Переглянути список blacklist
Можливість прив'язки blacklist:
глобально (для всіх фільтрів)
і/або локально (тільки для конкретного фільтра)
3.5 Дедуплікація (не надсилати одне й те саме)
Для кожного оголошення зберігати:
унікальний ідентифікатор (якщо є у сайту) або нормалізований URL
дата першого виявлення
джерело
прив'язаний фільтр(и)
статус “надіслано / не надіслано”
(опціонально) хеш ключових полів
Повторна відправка можлива тільки якщо адміністратор явно вибере “переслати”.
3.6 Звіти та сповіщення
Щоденний звіт (по кожному фільтру або загальний):
Заголовок: назва фільтра, період, кількість нових оголошень
Список оголошень:
посилання
ціна (якщо вдалося витягти)
локація (якщо вдалося)
короткий опис/заголовок (якщо вдалося)
дата публікації (якщо доступно)
Формат для Telegram: повідомлення + можливо батчинг (наприклад по 10-20 посилань на повідомлення)
Опціонально:
Email: лист (HTML або текст)
WhatsApp: через провайдера (Twilio/360dialog/і т.п.) — уточнити окремо
3.7 Управління через Telegram (обов'язково)
Команди/меню (приблизна структура):
/start — привітання, перевірка доступу
“Фільтри”:
список фільтрів
створити фільтр (wizard)
редагувати (параметри, отримувачі, розклад)
включити/виключити
видалити
“Продавці (blacklist)”:
додати (ввести посилання/id/ім'я)
список
видалити
“Статус”:
стан парсерів по джерелах
дата останнього запуску
кількість знайдених/відфільтрованих/помилок
“Тест”:
запустити перевірку конкретного фільтра вручну (без очікування доби)
“Налаштування”:
час щоденної відправки
ліміти
вибір каналів доставки
UI бажано через Inline-кнопки та покрокові діалоги.
4) Технічні вимоги
4.1 Архітектура
Python сервіс(и) на сервері:
Telegram Bot (UI та управління)
Парсери/робітники (за розкладом)
Сховище + логування
Можливість запуску в Docker (бажано):
docker-compose: bot + worker + db
4.2 Сховище
Підійде:
PostgreSQL (бажано) або SQLite (якщо маленький обсяг)
Таблиці мінімум:
filters
filter_params
sellers_blacklist
listings (оголошення)
deliveries (історія відправок)
logs/errors
4.3 Планувальник
APScheduler / Celery beat / cron + worker
Розклад:
збір даних може бути частіше (наприклад кожні 1–3 години), але відправка — 1 раз на добу (вимога).
-
Вітаю. Готовий взятися за це замовлення. Завдання зрозуміле реалізація python-сервісу з telegram-ботом для керування фільтрами, blacklist продавців, дедуплікації оголошень і формування щоденного дайджесту з Wallapop, Idealista та Milanuncios з розгортанням на VPS. Можу повністю закрити розробку, налаштування та запуск.
-
196 Основні компоненти
Telegram Bot (aiogram)
whitelist по user_id
ролі: Admin / Operator / Recipient
меню через inline-кнопки + wizard-діалоги (FSM)
…
Worker-парсер + планувальник
APScheduler (для MVP) або Celery (якщо хочете масштабування)
збір оголошень частіше (кожні 1–3 години), відправка дайджесту 1 раз/добу
PostgreSQL
зберігання фільтрів/параметрів
blacklist продавців (global + per-filter)
дедуплікація оголошень і історія доставок
Docker-compose
bot + worker + postgres (+ optional redis якщо Celery)
Джерела: як саме парсити
По кожному сайту робимо окремий модуль-адаптер:
Wallapop: частіше за все простіше через видачу/пошук + картки, але може змінюватися розмітка/антибот.
Idealista: відомий строгим антиботом, іноді вимагає більш “бережного” доступу (затримки, заголовки, проксі), можливі блокування.
Milanuncios: зазвичай доступніше, але теж може тротлити.
Практичний підхід MVP:
стартуємо з парсингу HTML (requests/httpx + lxml/bs4)
акуратний rate-limit, випадкові затримки, нормальні User-Agent/headers
якщо якийсь джерело починає “різати”, закладаємо опцію переключення на Playwright (дорожче по ресурсах)
Дедуп і blacklist — як буде працювати
Дедуплікація
primary key оголошення = site + listing_id (якщо є) або нормалізований URL
зберігаємо: first_seen, published_at (якщо дістали), title, price, location, url, source
зв'язок “оголошення побачено фільтром” через таблицю зв'язків
відправка: тільки ті, що “нові за період” і ще не доставлені отримувачам
Мінус-продавці
підтримуємо кілька ідентифікаторів: seller_profile_url, seller_id, seller_name, phone (якщо реально доступно)
blacklist буває:
global
по фільтру
фільтрація робиться на етапі обробки картки оголошення
Telegram UI (як буде виглядати)
Меню:
Фільтри
список
створити (wizard: ім'я → джерела → параметри → отримувачі → час відправки → включити)
редагувати
включити/виключити
видалити
Blacklist
додати (вставити посилання/id/ім'я/телефон)
список (з пагінацією)
видалити
Статус
остання запущення по джерелах
знайдено / відфільтровано / помилок
Тест
ручний запуск фільтра (без очікування доби)
Налаштування
час дайджесту за замовчуванням
ліміти повідомлень (батч 10–20)
канали доставки (TG обов'язково, Email/WA — опціонально)
-
424 1 0 Вітаю. Ознайомився з ТЗ — дуже професійно та детально розписано, приємно працювати з такою чіткою постановкою задачі.
Це саме мій профіль. Я спеціалізуюся на розробці складних парсерів та Telegram-ботів з адмін-панелями. Більше того, у мене в портфоліо вже є готове рішення з ідентичною архітектурою (система моніторингу цін Steam/OLX), яке я можу адаптувати під ваші потреби.
Чому я впораюся краще за інших:
Готова архітектура: Я вже працюю зі зв'язкою Python + Aiogram + PostgreSQL + Docker. У мене реалізована логіка "воркерів", черг задач (Redis/Celery) та фільтрації дублів. Це саме те, що ви описали в технічних вимогах (docker-compose: bot + worker + db).
Досвід із захистом: Wallapop та Idealista мають серйозний захист від ботів (Cloudflare/Datadome). Звичайні запити там не працюють. Я вмію обходити це через емуляцію браузера (Playwright/Selenium) та ротацію User-Agents/Proxy.
Адмінка: Реалізую керування фільтрами та "мінус-продавцями" через зручне меню з Inline-кнопками, як у моїх попередніх проектах.
Мій план реалізації:
Розгортання БД (PostgreSQL) для зберігання оголошень та black-листів.
Написання парсерів для кожного джерела (Idealista, Wallapop, Milanuncios).
… Налаштування планувальника (Scheduler) для збору даних та відправки звітів раз на добу.
Готовий показати приклади коду та архітектуру своїх ботів. Впевнений, що зможу реалізувати цей проект якісно та стабільно.
-
358 1 0 Доброго дня!
Я спеціалізуюся на Python‑розробці, автоматизації процесів та створенні Telegram‑ботів. Ваше технічне завдання зрозуміле: парсинг оголошень з Wallapop, Idealista та Milanuncios, фільтри з параметрами пошуку, система “мінус‑продавців”, дедуплікація та щоденні дайджести у Telegram.
Можу реалізувати архітектуру на Python з базою даних (PostgreSQL), планувальником та Docker‑деплойментом. Готовий обговорити деталі та терміни виконання.
-
172 1 1 Доброго дня! Готовий виконати цей проект, маю великий досвід розробки різних додатків.
-
310 Доброго дня!
Ознайомився з технічним завданням щодо розробки бота моніторингу оголошень (Wallapop / Idealista / Milanuncios) з управлінням через Telegram. Проєкт добре структурований, вимоги чіткі — це саме той тип задач, з якими я регулярно працюю.
Мій досвід та підхід повністю відповідають заявленим вимогам:
Технології та стек
Python (async / sync, залежно від джерела)
…
Парсинг: requests + BeautifulSoup / Playwright (де потрібен JS)
Telegram Bot API (aiogram / pyTelegramBotAPI)
PostgreSQL (структурована модель даних під фільтри, оголошення, blacklist, deliveries)
APScheduler / Celery beat для розкладів
Docker / docker-compose
VPS-деплой (Linux)
Архітектура
Розділення на сервіси: Telegram-бот (UI) + воркери-парсери
Плагінна структура джерел (кожен сайт — окремий модуль)
Дедуплікація за ID / normalized URL + хеш ключових полів
Підтримка глобального та локального blacklist продавців
Постфільтрація даних, якщо частина параметрів недоступна через URL
Функціональність
Wizard-створення фільтрів через Telegram (inline-кнопки, покрокові діалоги)
Гнучкі фільтри (ціна, локація, ключові слова, параметри обʼєкта)
Щоденний дайджест з батчингом повідомлень
Ручний запуск перевірки фільтра
Логи, статуси джерел, обробка помилок
Whitelist авторизація за Telegram user_id
Додатково
Оптимізація під low-latency та стабільність
Можливість подальшого підключення Email / WhatsApp (через провайдера)
Готовність документувати структуру та передати проєкт на підтримку
Можу взяти на себе:
повну реалізацію проєкту під ключ
або окремі частини (парсери, Telegram UI, архітектура, деплой)
Готовий обговорити деталі: обʼєм MVP, строки, формат співпраці та бюджет.
Дякую за увагу — буду радий зворотному звʼязку.
-
736 10 0 Вітаю, все це реально розробити, я готовий, просто нейронка яка писала це ТЗ на пару штук баксів тут написала twillo як мінімум)) Щодо інтеграції з WhatsApp маєте знати що це доп витрати ≈10$ на місяць якщо юзати не офіційне АПІ, якщо офіційне ціна варується в межах 500$ за 5000к повідомлень
-
1017 2 1 Вітаю! Ознайомився з ТЗ. Завдання зрозуміле: потрібен стабільний моніторинг майданчиків з агресивним анти-фрод захистом (Idealista, Wallapop, Milanuncios).
Маю великий досвід роботи з Playwright і обходом систем захисту рівня DataDome/Cloudflare. Для реалізації проекту пропоную наступний стек:
Парсинг: Playwright (Chromium-Ghost / Stealth-патчі) для повної імітації поведінки реального користувача. Це дозволить обходити перевірки на автоматизацію.
Анти-бан: Налаштування ротації резидентних проксі та генерація унікальних фингерпринтів для кожної сесії.
Backend: Python (Aiogram 3.x) для управління через Telegram.
…
База даних: PostgreSQL для надійного зберігання оголошень, історії дедуплікації та чорного списку продавців.
Архітектура: Docker-compose для зручного розгортання на VPS, планувальник завдань (APScheduler) для гнучкого налаштування частоти перевірок і розсилки дайджестів.
Реалізую весь функціонал: покроковий конструктор фільтрів у TG, глобальний і локальний blacklist продавців, дедуплікацію за ID/URL та щоденні звіти.
Готовий обговорити деталі: які саме ліміти по кількості запитів плануються і чи потрібна інтеграція з платними сервісами рішення капчі (на випадок їх появи).
Пишіть у особисті повідомлення, обговоримо архітектуру і терміни!
-
1048 7 1 Привіт!
Маю досвід створення ботів для моніторингу та парсингу даних, нещодавно реалізував схожий бот для автоматичного збору оголошень з сайтів нерухомості з інтеграцією Telegram.
Зроблю бот-парсер на Python з використанням бібліотек для парсингу даних (як-от BeautifulSoup або Scrapy) і aiogram для управління через Telegram. Реалізую систему фільтрів, чорний список продавців, а також формування щоденного дайджесту з новими оголошеннями.
Це забезпечить зручний доступ до актуальних оголошень без повторень та можливість налаштування під специфічні потреби. Давайте обговоримо деталі!
-
Доброго дня!
Можу розробити Python-бота для автоматичного збору оголошень з Wallapop, Idealista та Milanuncios з потрібними параметрами та функцією “мінус-продавців”. Бот буде керованим через Telegram, з повним управлінням фільтрами, blacklist, отримувачами та розкладом відправки.
Що буде зроблено:
Парсинг нових оголошень за заданими фільтрами;
Дедуплікація та уникнення повторних надсилань;
… Виключення “мінус-продавців” по ID, ніку, контакту або посиланню;
Формування щоденного дайджесту (Telegram, опціонально WhatsApp/Email);
Управління через Telegram-бот з ролями: Адмін, Оператор, Отримувач;
Гнучкі фільтри: локація, тип, ціна, площа, кількість кімнат, ключові слова, додаткові параметри;
Зберігання даних у PostgreSQL (або SQLite при малому обсязі), логування помилок, історія відправок;
Можливість запуску через Docker;
Планування: парсинг 1–3 рази на день, відправка 1 раз на добу.
Гарантую коректність збору даних, стабільну роботу та можливість подальшого масштабування/додавання нових джерел.
Вартість 35 000, платіжна система фрилансу, не дозволяє ставити ставку више 27 000, тому ставлю 27 000, проєкт можна поділити на 2
-
2964 14 0 Доброго дня.
Проект зрозумілий за логікою та обсягом. Для частини джерел варто одразу перевірити наявність офіційних або напівофіційних API або стабільних JSON endpoint, якщо вони є, це буде надійніше і безпечніше, ніж класичний парсинг HTML. Там, де API недоступно, можна використовувати парсери з постфільтрацією даних з карток оголошень.
Можу запропонувати реалізацію не тільки на Python, але й на Node.js з Typescript. Такий стек добре підходить для Telegram-ботів, фонових воркерів, планувальників і масштабування, плюс зручно працювати з PostgreSQL і чергами. Управління через Telegram, ролі, whitelist, фільтри, blacklist продавців, дедуплікація і щоденні дайджести без проблем укладаються в цю архітектуру. Розміщення на VPS, ізоляція через Docker Compose, окремі сервіси для бота, воркерів і бази даних.
Відправку в Telegram реалізую обов'язково, Email і WhatsApp можна підключити опціонально через провайдера. В інтерфейсі Telegram можна зробити покрокові діалоги і inline-кнопки для зручного управління фільтрами, продавцями і розкладом. Термін і вартість пропоную обговорити в особистих повідомленнях після уточнення пріоритетів по джерелах і каналах доставки.
-
1993 12 0 Доброго дня
Маю великий досвід розробки ботів та парсингу, розробляв схожі проекти
Напишіть мені
-
747 2 0 Дякую за детальне ТЗ, ознайомився.
В цілому вимоги зрозумілі: бот моніторингу оголошень з дедуплікацією, blacklist продавців, гнучкими фільтрами та управлінням через Telegram, з щоденним надсиланням дайджесту. Архітектура і стек (Python, TG-бот, VPS, Docker, PostgreSQL) мені підходять.
Готовий реалізувати робоче рішення на базі MVP або переробити поточну реалізацію, якщо вона нестабільна.
Для точної оцінки термінів і вартості потрібно:
1. подивитися поточне MVP (репозиторій / опис архітектури);
2. зрозуміти, які джерела вже реалізовані і в якому стані парсери;
… 3. уточнити пріоритети (обов'язковий мінімум на перший етап).
Після цього зможу запропонувати:
етапи реалізації,
реалістичні терміни,
вартість по етапах.
Готовий обговорити деталі і почати з аудиту поточного рішення.
-
122 Добрий день! 👋
Цікавий ваш проєкт Telegram-бот-парсера для збору нових оголошень.
Маю досвід розробки Python-скриптів з парсингом, обробкою даних та Telegram-ботів, які відправляють повідомлення в чат.
Щоб точно оцінити строки і вартість, уточніть, будь ласка:
1) з яких саме сайтів потрібно парсити оголошення?
2) чи потрібні фільтри за категоріями/ціною/регіоном?
3) як часто маємо перевіряти сайт на нові оголошення?
… 4) чи потрібно зберігати історію / уникати дублювання via базу даних?
Після уточнення дам пропозицію по строкам і ціні.
-
324 Вітаю.
Вже розробляв подібну архітектуру для аналітики Steam — там якраз використовував воркери для збору даних, черги та складну фільтрацію. Тому вашу задачу розумію відмінно і знаю, як реалізувати це стабільно.
-
95862 1272 1 10 Доброго дня. Маю великий досвід у розробці телеграм-ботів. Готовий до співпраці.
-
1803 31 0 Доброго дня, готовий розробити
Напишіть в особисті повідомлення для обговорення деталей
Актуальні фриланс-проєкти в категорії Python
Автоматичне публікування відео в соціальні мережі за розкладомТехнічне завдання (ТЗ)Автоматична публікація відео в соціальні мережі за розкладомОпис проектуПотрібен скрипт/бот (Python бажано, або будь-яке інше рішення на ваш вибір — головне стабільність і простота підтримки), який автоматично публікує відео з папки в соціальні мережі та… Python, Розробка ботів ∙ 29 хвилин тому ∙ 18 ставок |
Бот по прийому/пошуку анкет
1250 UAH
Якщо коротко: Створити бота, в якому можна буде створити та знайти анкету, бот повинен мати реферальні посилання тощо, все нижче розписав Бот зі сторони клієнта: перед кнопкою /старт текст в центрі чату: Що може зробити цей бот? Ласкаво просимо в Sugar Secret Agency!… Python, Розробка ботів ∙ 2 години 32 хвилини тому ∙ 29 ставок |
Шукаємо розробника для створення торгового бота/чат-ботаШукаємо розробника для створення торгового бота / чат-бота. Потрібен IT-спеціаліст, який зможе розробити бота для аналізу ринку 24/7 та надсилання торгових сигналів по золоту, індексах, Bitcoin і Forex-парах. Головна вимога - спеціаліст має розумітися в трейдингу, MetaTrader… Python, Розробка ботів ∙ 21 година 44 хвилини тому ∙ 34 ставки |
≈5 мікросервісів на FastAPI + правки та рефакторинг
15 682 UAH
Є проект, що складається приблизно з ~11 мікросервісів на FastAPI з інтеграціями, який більш ніж на половину готовий. Завдання - доробити решту ~5 мікросервісів (конкретніше - subscription/billing та інтеграція з Revenuecat, захист від зловживань для білінгу, Notifications,… Python, Веб-програмування ∙ 1 день 3 години тому ∙ 37 ставок |
Power BI
700 UAH
Дашборд працює на гугл сервері, потрібно перенести всю логіку+код Які потрібні скіли: розгортання etl процесів на linux сервері + робота із BigQuery та Postgre Є робочий код, який працює на google, де є сама БД, потрібно перенести на інший сервер, можливо переписати код. Python, Бази даних та SQL ∙ 2 дні 8 годин тому ∙ 15 ставок |