Добавить в парсер на python сохранение результатов в mysql
Есть парсер который парсит сайт на предмет нахождения рандомных кодов и пишет все найденные в текстовый файл что со временем стало заметно неудобно. Надо аккуратно дописать 2 короткие функции к текущему функционалу.
Хочется все текущие коды загрузить в таблицу mysql - там 2 колонки и в дальнейшем работать через mysql.
При старте выгружаем всю таблицу в память, в массив, при получении рандомного кода проверяем его наличие в массиве, если нет - парсим, при удачном нахождении добавляем в массив и в mysql.
Заодно должно получиться решение для распределенного парсинга.
-
166 2 0 Здравствуйте, без проблем выполню ваш заказ.
----------------------------------------------------------
-
853 11 0 Здравствуйте
Есть опыт работы с Msql сделаю все быстро и ефективно
Юуду ждать вашего сообщения для детального обсуждения
-
445 28 1 Здравствуйте, готов сделать, обращайтесь!
Работа будет выполнена качественно!
Буду рад сотрудничать!
-
495 1 0 Добрый день! Пишите - буду рад помочь. Реализовывал подобные фунционлы
-
192 Добрий день, зацікавив ваш проект. Маю великий досвід роботи з БД.
-
403 Смогу сделать хоть сегодня, работа на 30 минут, хорошо знаю как сделать ваш запрос в бд, так что пишите, буду ждать
-
674 24 0 Добрый день, Антон
Есть небольшое предложение: можно вместо загрузки всей таблицы в память проверять наличие кода прямо в таблице, через sql запрос
Это и меньше кода займет, и будет быстрее
Давайте обсудим детали в лс, напишите мне
С уважением, Александр
-
Зачем при старте выгружать таблицу всю в память? Это же не эффективно по памяти.
-
Aktualne zlecenia dla freelancerów w kategorii Parsowanie danych
Potrzebny parser sklepu internetowego https://www.lcsc.com/należy regularnie (1 raz w miesiącu, lub przy uruchomieniu skryptu) uzyskiwać aktualne informacje o produktach dostępnych w sklepie https://www.lcsc.com/ z katalogu wszystkich działów… Parsowanie danych ∙ 36 minut temu ∙ 14 ofert |
OpenCart — katalog wynajmu sprzętu specjalistycznego
492 PLN
OpenCart — katalog wynajmu sprzętu specjalistycznegoPotrzebne jest uruchomienie katalogu wynajmu sprzętu specjalistycznego na OpenCart.Tematyka:koparkipodnośnikiładowarkigeneratorydźwigirusztowaniainny sprzęt budowlany.Preferowane, abyście mieli już gotowy szablon lub… Programowanie stron internetowych, Parsowanie danych ∙ 17 godzin 3 minuty temu ∙ 43 oferty |
Przenieść program - serwer, na którym był program, padł (oficjalne dozwolone parsowanie danych publicznych)
169 PLN
Witaj! Mój klient ma przypadek opisany poniżej. Potrzebna pomoc w przeniesieniu na nowy serwer i przetestowaniu programu. Lepiej, aby to był programista, który zna się na parsowaniu. Konfigurowanie oprogramowania i serwerów, Parsowanie danych ∙ 20 godzin 55 minut temu ∙ 25 ofert |
Parsowanie i klasyfikacja dużej liczby obrazówNależy zrealizować projekt zbierania i strukturyzacji dużej ilości architektonicznych obrazów z otwartych źródeł internetowych.Zadanie obejmuje: automatyczne zbieranie obrazów; ładowanie plików w maksymalnie dostępnej jakości; klasyfikację obrazów według kategorii: Exterior;… Python, Parsowanie danych ∙ 21 godzin 23 minuty temu ∙ 30 ofert |
Parsowanie CV z Work.ua i Rabota.uaNależy pobrać w formacie Excel bazę aktualnych CV z Work.ua i Работа.ua. Preferowane, aby plik Excel zawierał następujące kolumny:ImięNumer telefonu (w formacie +380...)Adres e-mailStanowisko (zawód)Stanowiska, które rozważaKategoria branży (rubryka)Branża, w której… Wyszukiwanie i zbieranie informacji, Parsowanie danych ∙ 1 dzień 20 godzin temu ∙ 18 ofert |