Repolode
itsOwen

itsOwen/CyberScraper-2077

基于 Streamlit 的 LLM 网页爬虫,可调用 OpenAI、Gemini、Ollama 等模型提取页面数据。

可替代:Browse AIOctoparse

Star
3,293
Fork
382
未关闭 Issue
1
最近提交
8天前

这是什么?

CyberScraper 2077 是一个利用大语言模型把网页转换为结构化数据的爬虫工具。你输入网址,并用自然语言描述想要的内容,工具会通过 Playwright 抓取页面,再由所选模型提取对应信息。支持的后端包括 OpenAI、Gemini、通过 Ollama 运行的本地模型,以及经由 LiteLLM 代理接入的任意模型。

项目提供基于 Streamlit 的网页界面,可用 Python 3.10+ 本地运行,也可以放入 Docker 容器中。结果可导出为 JSON、CSV、HTML、SQL 或 Excel,CSV 还能一键上传到 Google Sheets。多页抓取支持 URL 模板与页码范围,另外还支持通过 Tor 访问 .onion 地址,并可借助浏览器窗口手动完成验证码。

作者提示,本地开源模型对机器性能有要求,效果可能需要调整提示词;如追求指令遵循能力,更推荐使用 OpenAI 或 Gemini。

核心功能

  • 01通过自然语言指令,借助 OpenAI、Gemini 或 Ollama 模型从网页提取数据。
  • 02支持 LiteLLM 代理,可接入其暴露的任意模型。
  • 03结果可导出为 JSON、CSV、HTML、SQL 或 Excel。
  • 04可将 CSV 数据上传到 Google Sheets。
  • 05支持按 URL 模板和页码范围进行多页抓取。
  • 06可通过 Tor 网络访问 .onion 地址。

适用场景

  • 将分页网站上的商品或列表数据整理到表格中。
  • 无需为每个网站编写选择器,快速验证结构化提取方案。
  • 使用本地 Ollama 模型进行抓取,让数据留在自己的机器上。

快速上手

  1. 1

    克隆仓库

    git clone https://github.com/itsOwen/CyberScraper-2077.git
  2. 2

    安装所需依赖包

    pip install -r requirements.txt
  3. 3

    安装 Playwright

    playwright install
  4. 4

    启动 Streamlit 应用并打开 http://localhost:8501

    streamlit run main.py

使用前须知

  • 需要 Python 3.10 或更高版本。
  • 需要 OpenAI 或 Gemini 的 API 密钥,或在本地配置 Ollama 以使用开源模型。
  • 作者推荐使用 OpenAI 和 Gemini,开源大模型速度可能较慢,且需要性能较好的机器。
  • 验证码绕过和当前浏览器功能在 Docker 中无法使用;Windows 用户需使用 Docker,作者不再维护 Windows 版本。

标签

常见问题

CyberScraper-2077 是什么?
基于 Streamlit 的 LLM 网页爬虫,可调用 OpenAI、Gemini、Ollama 等模型提取页面数据。 CyberScraper 2077 是一个利用大语言模型把网页转换为结构化数据的爬虫工具。你输入网址,并用自然语言描述想要的内容,工具会通过 Playwright 抓取页面,再由所选模型提取对应信息。支持的后端包括 OpenAI、Gemini、通过 Ollama 运行的本地模型,以及经由 LiteLLM 代理接入的任意模型。
CyberScraper-2077 可以免费使用吗?用的什么许可证?
CyberScraper-2077 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
CyberScraper-2077 还在维护吗?
活跃维护中。CyberScraper-2077 最近一次提交是在 2026年10月12日。
CyberScraper-2077 适合用来做什么?
将分页网站上的商品或列表数据整理到表格中。 无需为每个网站编写选择器,快速验证结构化提取方案。 使用本地 Ollama 模型进行抓取,让数据留在自己的机器上。
CyberScraper-2077 怎么安装和运行?
克隆仓库: git clone https://github.com/itsOwen/CyberScraper-2077.git 安装所需依赖包: pip install -r requirements.txt 安装 Playwright: playwright install 启动 Streamlit 应用并打开 http://localhost:8501: streamlit run main.py
在哪里获取 CyberScraper-2077?
源代码和安装说明在 GitHub 上:https://github.com/itsOwen/CyberScraper-2077

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目