Веб-краулер с открытым исходным кодом на Python: превращает сайты в чистый Markdown, готовый для LLM, RAG, AI-агентов и конвейеров данных.
ScrapeGraphAI/Scrapegraph-ai
Библиотека Python, которая использует LLM и графовые пайплайны для извлечения структурированных данных с сайтов и из локальных документов по запросу на естественном языке.
Open source альтернатива:Firecrawl
- Звёзды
- 31,929
- Форки
- 3,367
- Открытые issues
- 22
- Последний коммит
- 13 дней назад
Что это?
ScrapeGraphAI — библиотека Python для веб-скрейпинга, которая заменяет написание селекторов запросом на естественном языке. Вы описываете, какие данные нужны, а библиотека запускает пайплайн: загружает веб-страницу или локальный файл (XML, HTML, JSON, Markdown и другие форматы) и с помощью большой языковой модели возвращает извлечённые данные в виде словаря.
В библиотеке есть несколько готовых пайплайнов. SmartScraperGraph обрабатывает одну страницу, SearchGraph — первые результаты поисковой системы, а SmartScraperMultiGraph и ScriptCreatorMultiGraph работают с несколькими источниками. Другие пайплайны создают аудиовывод или повторно используемые скрипты Python. Варианты для нескольких источников могут выполнять вызовы LLM параллельно.
В качестве моделей можно использовать OpenAI, Groq, Azure, Gemini или MiniMax через их API либо локальные модели, запущенные через Ollama. Для рендеринга страниц в браузере используется Playwright, который нужно устанавливать отдельно. Та же компания предлагает управляемый облачный API и SDK как отдельную платную опцию.
Ключевые возможности
- 01Извлекает данные со страницы по запросу на обычном языке вместо CSS- или XPath-селекторов.
- 02Поддерживает сайты и локальные файлы, такие как XML, HTML, JSON и Markdown.
- 03Предлагает пайплайны для одной страницы, нескольких страниц и результатов поиска.
- 04Работает с OpenAI, Groq, Azure, Gemini и локальными моделями через Ollama.
- 05Может создавать аудиовывод или скрипты Python на основе собранного содержимого.
Сценарии использования
- Сбор сведений о компаниях, их основателях и контактных ссылок с множества сайтов без написания парсеров.
- Сбор структурированных данных со страниц, макет которых часто меняется.
- Передача веб-контента в пайплайны LLM или RAG в структурированном виде.
- Приватное извлечение данных с помощью локальной модели через Ollama.
Быстрый старт
- 1
Установите библиотеку из PyPI
pip install scrapegraphai - 2
Установите браузеры Playwright для загрузки веб-сайтов
playwright install - 3
Настройте LLM (например, ключ OpenAI или локальный Ollama) и запустите SmartScraperGraph, указав промпт и исходный URL
Что важно знать
- Вам нужно самостоятельно предоставить LLM и оплачивать его использование (ключ API или локальная модель через Ollama).
- При самостоятельном хостинге вам потребуется самостоятельно управлять браузерами, прокси и масштабированием.
- Для загрузки веб-сайтов требуется дополнительная установка браузеров Playwright.
Темы
Частые вопросы
- Что такое Scrapegraph-ai?
- Библиотека Python, которая использует LLM и графовые пайплайны для извлечения структурированных данных с сайтов и из локальных документов по запросу на естественном языке. ScrapeGraphAI — библиотека Python для веб-скрейпинга, которая заменяет написание селекторов запросом на естественном языке. Вы описываете, какие данные нужны, а библиотека запускает пайплайн: загружает веб-страницу или локальный файл (XML, HTML, JSON, Markdown и другие форматы) и с помощью большой языковой модели возвращает извлечённые данные в виде словаря.
- Scrapegraph-ai можно использовать бесплатно? Какая у него лицензия?
- Scrapegraph-ai распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- Scrapegraph-ai всё ещё поддерживается?
- Активно поддерживается. Последний коммит в Scrapegraph-ai — 6 окт. 2026 г..
- Для чего можно использовать Scrapegraph-ai?
- Сбор сведений о компаниях, их основателях и контактных ссылок с множества сайтов без написания парсеров. Сбор структурированных данных со страниц, макет которых часто меняется. Передача веб-контента в пайплайны LLM или RAG в структурированном виде. Приватное извлечение данных с помощью локальной модели через Ollama.
- Как установить Scrapegraph-ai?
- Установите библиотеку из PyPI: pip install scrapegraphai Установите браузеры Playwright для загрузки веб-сайтов: playwright install Настройте LLM (например, ключ OpenAI или локальный Ollama) и запустите SmartScraperGraph, указав промпт и исходный URL
- Где скачать Scrapegraph-ai?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ScrapeGraphAI/Scrapegraph-ai
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Опенсорсный автономный агент для глубокого исследования веб-источников и локальных документов с помощью любой LLM, который составляет отчёты с цитатами.
Веб-скрейпер на Streamlit, который с помощью моделей OpenAI, Gemini, Ollama или LiteLLM извлекает структурированные данные со страниц по запросам на естественном языке.
Библиотека Python с открытым исходным кодом для AI-агентов, которые управляют настоящим браузером через LLM; доступны облачный браузер и API агента.
Фреймворк для инкрементальных конвейеров данных на Python с ядром на Rust, который синхронизирует векторные индексы и графы знаний для AI-агентов с меняющимися источниками.
Самостоятельно размещаемый AI-ассистент для глубоких многоэтапных исследований с локальными или облачными LLM и поиском в интернете, научных базах и собственных документах.