Добавить в парсер на python сохранение результатов в mysql
Есть парсер который парсит сайт на предмет нахождения рандомных кодов и пишет все найденные в текстовый файл что со временем стало заметно неудобно. Надо аккуратно дописать 2 короткие функции к текущему функционалу.
Хочется все текущие коды загрузить в таблицу mysql - там 2 колонки и в дальнейшем работать через mysql.
При старте выгружаем всю таблицу в память, в массив, при получении рандомного кода проверяем его наличие в массиве, если нет - парсим, при удачном нахождении добавляем в массив и в mysql.
Заодно должно получиться решение для распределенного парсинга.
-
166 2 0 Здравствуйте, без проблем выполню ваш заказ.
----------------------------------------------------------
-
893 11 0 Здравствуйте
Есть опыт работы с Msql сделаю все быстро и ефективно
Юуду ждать вашего сообщения для детального обсуждения
-
431 28 1 Здравствуйте, готов сделать, обращайтесь!
Работа будет выполнена качественно!
Буду рад сотрудничать!
-
495 1 0 Добрый день! Пишите - буду рад помочь. Реализовывал подобные фунционлы
-
192 Добрий день, зацікавив ваш проект. Маю великий досвід роботи з БД.
-
379 Смогу сделать хоть сегодня, работа на 30 минут, хорошо знаю как сделать ваш запрос в бд, так что пишите, буду ждать
-
674 24 0 Добрый день, Антон
Есть небольшое предложение: можно вместо загрузки всей таблицы в память проверять наличие кода прямо в таблице, через sql запрос
Это и меньше кода займет, и будет быстрее
Давайте обсудим детали в лс, напишите мне
С уважением, Александр
-
Зачем при старте выгружать таблицу всю в память? Это же не эффективно по памяти.
-
Current freelance projects in the category Data Parsing
A specialist in Telegram promotion is required.
29 USD
Tasks: invite real users from the username database to new chats and send messages to the target database. Only quality traffic and work with a live audience are of interest — performers using bots, fake engagement, or low-quality methods are requested NOT TO DISTURB. Work… Data Parsing, Social Media Marketing (SMM) ∙ 4 days back ∙ 8 proposals |
Consultation on parsing Instagram account subscribersHello. It is necessary to conduct a preliminary assessment of the feasibility of the following task. I have a list of Instagram accounts. The goal is to obtain contact information (primarily email addresses) of users who follow these accounts. Previously, I encountered companies… Data Parsing ∙ 7 days 19 hours back ∙ 13 proposals |
A specialist is needed to find contacts of decision-makers in Ukraine.It is necessary to gather a database (or ready database) of contacts of decision-makers (DMs) in companies in Ukraine. Information Gathering, Data Parsing ∙ 8 days back ∙ 21 proposals |
Need to scrape data from LinkedInWe need to scrape data from LinkedIn based on our list. For each entry, we need to find and collect available data if it exists on the LinkedIn profile, including the profile picture on the LinkedIn social network, email address, links to social media, company website, and… Data Parsing ∙ 8 days 5 hours back ∙ 28 proposals |
Parsing and classification of dataWe are looking for a developer to implement a system for collecting and structuring data from open sources. We have a database of small business owners in the USA, which contains the person's name, company name, address, and state. It is necessary to build a process for… Web Programming, Data Parsing ∙ 8 days 6 hours back ∙ 45 proposals |