用 Rust 编写的高并发网页爬取与抓取引擎,仅在需要时才渲染 JavaScript。
2833+21 本周323RustMIT更新于 20小时前
ProjectDiscovery 出品的快速可配置网页爬虫框架,支持标准与无头浏览器两种模式,用于发现站点端点。
Katana 是一个用 Go 编写的命令行爬虫,用于发现网站上的 URL 和接口端点。它提供两种模式:标准模式基于 Go 的 HTTP 客户端,只解析原始响应,速度较快;无头模式则驱动 Chrome,能够捕获由 JavaScript 和 XHR 请求产生的端点。
抓取范围可按根域名、完整域名或自定义正则限定,结果可输出到标准输出、文件或可选字段的 JSONL。输入支持单个 URL、列表文件和标准输入,便于与 httpx 等工具串联使用。
此外,Katana 还支持 JavaScript 端点解析、自动表单填充、robots.txt 与 sitemap.xml 等已知文件抓取、相似 URL 与相似页面过滤、速率限制,以及可对页面类型分类、检测密钥和 API 端点的机器学习知识库功能。
使用 Go 安装 katana(需要 Go 1.26+)
CGO_ENABLED=1 go install github.com/projectdiscovery/katana/cmd/katana@latest抓取目标 URL
katana -u https://tesla.com概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
用 Rust 编写的高并发网页爬取与抓取引擎,仅在需要时才渲染 JavaScript。
一个用 Go 编写的网页爬虫与抓取框架,用于从网站中提取结构化数据。
基于 asyncio 和 aiohttp 的异步 Python 网页爬虫微框架,让抓取 URL 更简便。
开源 SEO 审计工具,爬取网站并报告断链、重定向、meta 标签缺失或重复等技术问题。
Python 网页抓取框架,覆盖单次请求、隐身浏览器、解析到并发爬取与数据导出的完整流程。
开源 Python 网页爬虫,可将任意网站转为干净、适合 LLM 使用的 Markdown,并支持结构化数据提取。