Data QA Engineer
We are looking for a detail-oriented engineer with strong SQL and Data management experience to work with our analytics and data science back-end. This role will include verifying data integrity, deduplication, aggregated metrics. Building QA and validation processes for datasets and algorithms. The ideal candidate will have the ability to take ownership of daily data ingests from client and help building validation around it. Collaborate with the data science and ops teams.
Requirements
Strong SQL, MySQL or PostgreSQL
Experience writing scripts in Python
Should be comfortable working with big datasets
Experience validating data in text or CSV data formats
Attention to details and self organization
Nice to have
Experience with AWS S3
Background in science or engineering
Experience with a scheduler such as AirFlow or Jenkins
Big Data technologies: Redshift, Redshift Spectrum, Spark, Hadoop
Workload: Half-time or Full-time
Актуальные фриланс-проекты в категории Парсинг данных
Сбор ссылок на источники с объявлениями аренды жильяСбор ссылок на источники с объявлениями аренды жилья Нужно собрать базу ссылок на группы, каналы, форумы и площадки, где публикуются объявления об аренде жилья в крупных городах Европы и США. Цель: найти источники, где регулярно появляются объявления о краткосрочной,… Парсинг данных, Продажи и генерация лидов ∙ 5 часов 23 минуты назад ∙ 13 ставок |
Настроить модуль "Автоматическая обработка прайс-листов. v.9.5".Магазин на OcStore 2.3. установлен модуль "Автоматическая обработка прайс-листов. v.9.5". Все настроено автором модуля, но сейчас есть моменты по настройкам, которые не могу разобраться и допетрать логику работы модуля. Например, проблема с двумя языками в карточке товара, тянет… Интернет-магазины и электронная коммерция, Парсинг данных ∙ 1 день 1 час назад ∙ 21 ставка |
Ценообразование товаров автозапчастей от поставщиков для сайтов автозапчастей на базе Пром.Техническое задание Проект Настройка наполнения и синхронизации двух магазинов Prom.ua с поставщиками автозапчастей. Задача Необходимо реализовать загрузку и обновление товаров от поставщиков автозапчастей для двух интернет-магазинов на Prom.ua. ⸻ 1. Подключение… Парсинг данных ∙ 1 день 13 часов назад ∙ 44 ставки |
Парсинг базы
2000 UAH
Требования к каналам: 1. Язык контента: Русский или украинский (допускается смешанный контент RU/UA) 2. Количество подписчиков: Не менее 500 подписчиков 3. Активность: Последний пост опубликован не позднее чем 32 часа назад 4. Комментарии: В канале должны быть открыты… Базы данных и SQL, Парсинг данных ∙ 1 день 14 часов назад ∙ 32 ставки |
Необходимо разработать Telegram-бота для мониторинга автомобилей с аукционов США (Copart, IAAI)Необходимо создать Telegram-бота для автоматического поиска и мониторинга автомобилей "BUY IT NOW" на аукционах США (Copart, IAAI). Бот должен работать в автоматическом режиме и отправлять сообщения о новых автомобилях, которые соответствуют заданным фильтрам.Основной… Парсинг данных, Разработка ботов ∙ 2 дня 15 часов назад ∙ 93 ставки |