一个基于 LLM 与图结构流水线的 Python 网页抓取库,按自然语言描述提取结构化数据。
- Star
- 3,293
- Fork
- 382
- 未关闭 Issue
- 1
- 最近提交
- 8天前
这是什么?
CyberScraper 2077 是一个利用大语言模型把网页转换为结构化数据的爬虫工具。你输入网址,并用自然语言描述想要的内容,工具会通过 Playwright 抓取页面,再由所选模型提取对应信息。支持的后端包括 OpenAI、Gemini、通过 Ollama 运行的本地模型,以及经由 LiteLLM 代理接入的任意模型。
项目提供基于 Streamlit 的网页界面,可用 Python 3.10+ 本地运行,也可以放入 Docker 容器中。结果可导出为 JSON、CSV、HTML、SQL 或 Excel,CSV 还能一键上传到 Google Sheets。多页抓取支持 URL 模板与页码范围,另外还支持通过 Tor 访问 .onion 地址,并可借助浏览器窗口手动完成验证码。
作者提示,本地开源模型对机器性能有要求,效果可能需要调整提示词;如追求指令遵循能力,更推荐使用 OpenAI 或 Gemini。
核心功能
- 01通过自然语言指令,借助 OpenAI、Gemini 或 Ollama 模型从网页提取数据。
- 02支持 LiteLLM 代理,可接入其暴露的任意模型。
- 03结果可导出为 JSON、CSV、HTML、SQL 或 Excel。
- 04可将 CSV 数据上传到 Google Sheets。
- 05支持按 URL 模板和页码范围进行多页抓取。
- 06可通过 Tor 网络访问 .onion 地址。
适用场景
- 将分页网站上的商品或列表数据整理到表格中。
- 无需为每个网站编写选择器,快速验证结构化提取方案。
- 使用本地 Ollama 模型进行抓取,让数据留在自己的机器上。
快速上手
- 1
克隆仓库
git clone https://github.com/itsOwen/CyberScraper-2077.git - 2
安装所需依赖包
pip install -r requirements.txt - 3
安装 Playwright
playwright install - 4
启动 Streamlit 应用并打开 http://localhost:8501
streamlit run main.py
使用前须知
- 需要 Python 3.10 或更高版本。
- 需要 OpenAI 或 Gemini 的 API 密钥,或在本地配置 Ollama 以使用开源模型。
- 作者推荐使用 OpenAI 和 Gemini,开源大模型速度可能较慢,且需要性能较好的机器。
- 验证码绕过和当前浏览器功能在 Docker 中无法使用;Windows 用户需使用 Docker,作者不再维护 Windows 版本。
标签
常见问题
- CyberScraper-2077 是什么?
- 基于 Streamlit 的 LLM 网页爬虫,可调用 OpenAI、Gemini、Ollama 等模型提取页面数据。 CyberScraper 2077 是一个利用大语言模型把网页转换为结构化数据的爬虫工具。你输入网址,并用自然语言描述想要的内容,工具会通过 Playwright 抓取页面,再由所选模型提取对应信息。支持的后端包括 OpenAI、Gemini、通过 Ollama 运行的本地模型,以及经由 LiteLLM 代理接入的任意模型。
- CyberScraper-2077 可以免费使用吗?用的什么许可证?
- CyberScraper-2077 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- CyberScraper-2077 还在维护吗?
- 活跃维护中。CyberScraper-2077 最近一次提交是在 2026年10月12日。
- CyberScraper-2077 适合用来做什么?
- 将分页网站上的商品或列表数据整理到表格中。 无需为每个网站编写选择器,快速验证结构化提取方案。 使用本地 Ollama 模型进行抓取,让数据留在自己的机器上。
- CyberScraper-2077 怎么安装和运行?
- 克隆仓库: git clone https://github.com/itsOwen/CyberScraper-2077.git 安装所需依赖包: pip install -r requirements.txt 安装 Playwright: playwright install 启动 Streamlit 应用并打开 http://localhost:8501: streamlit run main.py
- 在哪里获取 CyberScraper-2077?
- 源代码和安装说明在 GitHub 上:https://github.com/itsOwen/CyberScraper-2077
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
3.2万3384PythonMIT更新于 14天前
开源 Python 网页爬虫,可将任意网站转为干净、适合 LLM 使用的 Markdown,并支持结构化数据提取。
8.6万8924PythonApache-2.0更新于 昨天
开源 Python 库,用于构建能操控真实浏览器的 AI 智能体,可选接入 Browser Use Cloud 云端浏览器。
11.8万1.3万PythonMIT更新于 3天前
面向浏览器智能体的 TypeScript、Python、Go SDK,可用自然语言执行操作、观察页面与提取数据。
2.6万1769TypeScriptMIT更新于 10小时前
基于大语言模型和计算机视觉的开源浏览器自动化工具,可在任意网站上执行工作流,并在 Playwright 上扩展 AI 能力。
2.3万2202PythonAGPL-3.0更新于 13小时前