Python 网页抓取框架,覆盖单次请求、隐身浏览器、解析到并发爬取与数据导出的完整流程。
8.9万9146PythonBSD-3-Clause更新于 前天
Python 3 库,用于抓取新闻文章并提取正文、作者、发布时间、图片、关键词和摘要。
newspaper3k 是一个 Python 3 库,用于从网址抓取新闻文章,并把原始 HTML 转换为结构化数据。给定文章链接后,它会下载页面并提取标题、正文、作者、发布日期、头图和嵌入视频,还能通过自然语言处理生成关键词和摘要。
除了单篇文章,它还能爬取新闻网站的首页和分类页,发现文章链接并列出站点分类。独立的 fulltext 函数可直接处理已获取的 HTML。未指定语言时会自动检测,并支持 35 种以上语言,包括中文、日文、阿拉伯语和俄语。
项目通过 pip 以 newspaper3k 包名安装,采用 MIT 许可证,是原 newspaper 包的 Python 3 版本。
使用 pip 安装该包
pip3 install newspaper3k运行 README 中的官方语料下载脚本(NLP 功能需要)
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
Python 网页抓取框架,覆盖单次请求、隐身浏览器、解析到并发爬取与数据导出的完整流程。
用于抓取网页并从 HTML 中提取正文、元数据和评论的 Python 库与命令行工具。
轻量级 Python 包,可搜索 Google News 文章并以 JSON 格式返回结果,还支持提取全文。
一个基于 LLM 与图结构流水线的 Python 网页抓取库,按自然语言描述提取结构化数据。
用 Rust 编写的高并发网页爬取与抓取引擎,仅在需要时才渲染 JavaScript。
可视化、无代码的网页爬虫与浏览器自动化工具,通过在网页上点选元素即可设计采集任务。