Парсинг данных с Coinmarketcap | Python | Senior Специалист
25 763 UAHДобрый день.
Ищем Senior специалиста и выше с большим опытом в парсинге данных, желательно на python, тк есть старый код, написанный другим разработчиком
Нам нужно на постоянной основе парсить данные примерно с Двадцати различных ресурсов.
Это такие ресурсы как CoinMarketCap.com, Сoingecko.com, Сoinsniper.net и выгружать их в Google sheets и БД
Хотел бы узнать ответа три вопроса:
1. Работали вы когда-нибудь с парсингом данных в многопотоке ?
2. Сможете ли с парсить данные и обойти защиту на сайте Coinsniper.net (это важный ресурс для нас) ?
К примеру, такие как Сloudflare "Verify yourself as a human", который появляется на Coinsniper.net на данном сайте, либо другие защиты от парсинга.
3. Работали ли вы когда-нибудь с API Google sheets?
-
1 день25 763 UAH1 день25 763 UAH
Здравствуйте, с какой периодичностью нужно парсить данные?
1. Да, могу предоставить примеры
2. Имею опыт обхода Cloudflare, но нужно дополнительно изучать отдельный ресурс, потому что, сайты могут иметь разные настройки/правила защиты
3. Да, но API Google Sheets имеет лимиты, если мы говорим о большом количестве данных, то стоит рассмотреть БД
Можем обсудить дальнейшие детали в личных сообщениях. Буду рада сотрудничеству.
-
5 дней25 763 UAH5 дней25 763 UAH
Здравствуйте!
С радостью поработаю над вашим проектом.
Создам бота, наполню нужным функционалом. Работаю до полного утверждения.
Напишите мне в личные сообщения, обсудим детали.
Стоимость услуг – не догма, а повод для обсуждения. -
7 дней25 763 UAH
953 5 0 7 дней25 763 UAHЗдравствуйте, Виталина.
С удовольствием возьмусь за ваш проект. У меня большой опыт в создании парсеров на python+selenium. На python пишу более 4 лет, парсингом данных занимаюсь около 3 лет.
1) У меня на постоянном обслуживании находятся 2 моих многопроцессорных парсера.
Первый парсер существует уже 3 года, он собирает данные с 18 B2B порталов.
Многопроцессорность реализована через менеджер процессов, что дает высокую стабильность и скорость работы парсера.
Я предлагаю вам использовать именно многопроцессорный парсер, а не многопоточный.
2) Selenium имитирует реального пользователя, поставить галочку для него не проблема. Более сложные защиты, например, reCAPTCHA от Google, обходятся через сторонние сервисы, такие задачи тоже приходилось решать.
…
3) С API Google sheets не работал, это обычный REST API, не вижу трудностей в его использовании. Есть опыт работы с pandas для очистки и сортировки данных и создании отчётов в формате xlsx, с использованием всех преимуществ электронных таблиц - цветовое выделение, формат данных и тд.
4) Могу подключить пул прокси к парсеру.
5) Парсер может работать на удаленном сервере и сам процесс парсинга не из быстрых. Удобным решением, особенно для команды или группы, будет использовать уведомления в телеграмм канал о работе парсера.
-
7 дней25 711 UAH
484 0 1 7 дней25 711 UAHПривет, Виталий!
Я - опытный Fullstack разработчик с большим опытом парсинга данных на Python. Я решу вашу задачу, оптимизируя старый код и внедрив многопоточность для повышения скорости сбора данных. Обойду защиту на Coinsniper.net с помощью решений для обхода Cloudflare. Также имею опыт работы с API Google Sheets для удобного экспорта. Гарантирую качество и скорость выполнения!
Жду вашего ответа!
-
7 дней25 763 UAH
445 28 1 7 дней25 763 UAHЗдравствуйте, готов реализовать данный проект!
Буду рад сотрудничеству!
-
7 дней25 763 UAH
1806 34 3 7 дней25 763 UAHДобрый день уже имеется опыт работы с CoinMarketCap и Сoingecko.
Пишите в лс обсудим что нужно вам будет выгружать в таблицу.
Опыт работы с таблицами Google имеется.
-
7 дней25 763 UAH
489 3 1 1 7 дней25 763 UAHДобрый день!
Меня заинтересовал ваш проект по парсингу данных с различных ресурсов. Позвольте кратко представить мое предложение:
Опыт и компетенции:
Многопоточный парсинг: Имею значительный опыт разработки многопоточных и асинхронных парсеров на Python с использованием asyncio, aiohttp и threading, что обеспечивает высокую скорость и эффективность сбора данных.
Обход защит: Успешно работал с обходом различных защитных механизмов, включая Cloudflare "Verify yourself as a human". Использую такие инструменты как Selenium, Playwright и специализированные библиотеки (cloudscraper) для обеспечения стабильного доступа к защищенным ресурсам.
…
Интеграция с Google Sheets API: Многократно реализовывал интеграцию с Google Sheets через gspread и официальное API, обеспечивая автоматизированную выгрузку и обновление данных в таблицах.
Подход к проекту:
Анализ существующего кода: Ознакомлюсь с текущей кодовой базой для понимания структуры и особенностей.
Разработка и оптимизация: Создам/доработаю парсеры для 20 ресурсов, обеспечивая устойчивость и эффективность.
Интеграция и автоматизация: Настрою автоматическую выгрузку данных в Google Sheets и базу данных по заданному расписанию.
Поддержка и мониторинг: Обеспечу мониторинг процессов парсинга и быстрое реагирование на возможные сбои или изменения на сайтах.
Буду рад обсудить детали вашего проекта и предложить оптимальное решение. Свяжитесь со мной для дальнейшего обсуждения!
-
12 дней25 763 UAH
2923 26 0 12 дней25 763 UAHЗдравствуйте!
Готов взяться за проект. Опыт в парсинге данных с различных ресурсов на Python есть, включая работу с многопоточностью. Могу настроить парсинг данных с указанного вами списка сайтов, обойти защиту (например, Cloudflare), а также интегрировать выгрузку в Google Sheets и БД.
Да, работал с многопоточностью для ускорения парсинга.
Обход защиты Cloudflare — есть опыт решения таких задач с использованием антикапчи или прокси-серверов.
Работал с Google Sheets API, интегрировал выгрузку данных в таблицы.
Готов приступить сразу.
-
7 дней25 763 UAH
8867 60 0 1 7 дней25 763 UAHДобрый день. Готов выполнить.
Имею большой опыт создания парсеров.
Пишу на Python, занимаю 3-е место на платформе.
Реализую парсер для работы с данными в многопотоке. Смогу обойти защиту на требуемом сайте. Подключу необходимые интеграции. Сделаю удобный интерфейс и оптимизирую.
Мое портфолио:Freelancehunt
Пишите, обсудим детали и я приступлю к работе.
-
1 день51 525 UAH
344 23 1 1 день51 525 UAHДобрый вечер, имею большой опыт в парсинге, сниффинге и реверс-инжиниринге, пишите — сделаем ветер :)
-
1 день25 763 UAH
3482 50 0 1 день25 763 UAHДобрый вечер
Пишите готов обсудить детали
Отвечаю:
1. да работал с многопотоком, и в парсинге и в другом
2. да смогу обойти
3. Да работал с апи гугл таблиц
… Пишите
Готов к работе
-
30 дней51 525 UAH
1069 10 0 30 дней51 525 UAHИмею огромный опыт скрепинга и массу заверешнных проектов с использованием запросов(requests, aiohttp) и автоматизации с помощью браузера(playwright, pyppeteer, selenium), обход разных видов защиты(akamai, cloudflare) и капч(reCAPTCHA, image captcha, geetest icon captcha, geetest v3/v4 slide captcha, hCAPTCHA, tiktok captcha, funcaptcha, worldfirstcaptcha, cloudflare captcha), выполнение логина и сбор данных под авторизацией(используя куки, токены и сессии)
-
10 дней25 763 UAH
6441 74 1 10 дней25 763 UAHДобрый день. У меня большой опыт в разнообразном парсинге, взаимодействии с различными API, google sheet, в том числе.
Интересно более подробно узнать о ТЗ.
Буду рад сотрудничеству.
-
20 дней25 763 UAH
342 1 0 20 дней25 763 UAHДобрый день!
Готов взяться за выполнение вашего заказа. Имею опыт работы с многопоточным парсингом данных, обходом защит (включая Cloudflare) и интеграцией с Google Sheets API. Могу обеспечить стабильную выгрузку данных с указанных ресурсов в Google Sheets и базу данных.
Готов обсудить детали и приступить к работе.
-
13 дней25 763 UAH
2742 76 1 13 дней25 763 UAHДобрый вечер.
1. С парсингом в многопотоке работал.
2. Защуту обходил но не везде. На на сайте Coinsniper.net нужно изучить и протестировать.
3. С API Google sheets знаком, но не работал.
-
Старый парсер работает или нет? Я к тому, что надо решать проблемы с анти-бот системами или дорабатывать функционал?
-
Уже пора перестать страдать хернёй с обходом капчи, и использовать api сервисов.
-
Актуальные фриланс-проекты в категории Python
Создание Human AI Assistant для Telegram-групп### 1.1. Ключевая концепция системы Система должна выполнять две основные функции: #### 1. Анализ клиентской коммуникации AI-ассистент должен автоматически анализировать всю коммуникацию в Telegram-группах и понимать контекст общения. В частности, система должна: -… AI и машинное обучение, Python ∙ 15 часов 39 минут назад ∙ 33 ставки |
Чёрная Украина (RP-проект на базе MTA)
51 525 UAH
|
Betting нужно сделать букмекерскую контору! С ОПЫТОМНужно разработать betting-платформу / букмекерский продукт на базе готового шаблона. Основная задача — адаптировать шаблон под полноценную букмекерскую контору: подключить парсинг спортивных событий и коэффициентов, реализовать личный кабинет пользователя, баланс, ставки,… Python, Веб-программирование ∙ 16 часов 21 минута назад ∙ 29 ставок |
Telegram автоматизация рассылки сообщений в чатыНужно рассылать в телеграмм чаты сообщения. Что бы не было банов. Чатов несколько сотен. Что бы настраивать перодичность и вариативность текстов. Python, Разработка ботов ∙ 16 часов 33 минуты назад ∙ 26 ставок |
Разработка программного обеспечения с ИИНеобходимо разработать программное обеспечение для автоматического обнаружения, захвата и сопровождения объекта с помощью видеокамеры и поворотного механизма.Исходные данные: Видеокамера с оптикой. Поворотное устройство по двум осям (азимут/угол места). Сервоприводы с… AI и машинное обучение, Python ∙ 1 день 23 часа назад ∙ 17 ставок |