LinkedIn Scraper на n8n + Google Custom Search + Google Sheets
В этом проекте я реализовал полностью автоматизированный процесс для сбора LinkedIn-профилей с помощью:
n8n (платформа без кода/низкого кода для автоматизации)
OpenAI GPT-4o-mini для генерации поисковых запросов
Google Programmable Search Engine (CSE) для скрапинга результатов Google
Google Sheets для сохранения полученных данных
Что именно сделано:
Входной чат: пользователь отправляет сообщение с темой поиска (например, "Marketing managers in Berlin").
AI форматирование: через GPT-4o prompt генерируется точный поисковый запрос для Google CSE.
Пагинация: скрипт на JavaScript делит запрос на страницы для сбора до 500 результатов.
API-запрос к Google CSE: отправляются запросы к Google для получения профилей.
Фильтрация результатов: из JSON-ответа Google извлекаются только ссылки на LinkedIn-профили.
Сохранение: все уникальные ссылки добавляются в Google Sheet (с проверкой на дубликаты).
Результат:
Автоматически собрано более 40 уникальных LinkedIn-профилей
Данные аккуратно сохранены в таблице
Полностью управляемо из одного чата или интеграции с API
n8n (платформа без кода/низкого кода для автоматизации)
OpenAI GPT-4o-mini для генерации поисковых запросов
Google Programmable Search Engine (CSE) для скрапинга результатов Google
Google Sheets для сохранения полученных данных
Что именно сделано:
Входной чат: пользователь отправляет сообщение с темой поиска (например, "Marketing managers in Berlin").
AI форматирование: через GPT-4o prompt генерируется точный поисковый запрос для Google CSE.
Пагинация: скрипт на JavaScript делит запрос на страницы для сбора до 500 результатов.
API-запрос к Google CSE: отправляются запросы к Google для получения профилей.
Фильтрация результатов: из JSON-ответа Google извлекаются только ссылки на LinkedIn-профили.
Сохранение: все уникальные ссылки добавляются в Google Sheet (с проверкой на дубликаты).
Результат:
Автоматически собрано более 40 уникальных LinkedIn-профилей
Данные аккуратно сохранены в таблице
Полностью управляемо из одного чата или интеграции с API