FlashAttention 官方实现,一种节省显存的精确注意力计算内核,用于 GPU 上 Transformer 模型的训练与推理。
huggingface/transformers
面向文本、视觉、音频和多模态的前沿机器学习模型定义框架,可用于推理和训练。
- Star
- 167,893
- Fork
- 34,917
- 未关闭 Issue
- 2,220
- 最近提交
- 5小时前
这是什么?
Transformers 为文本、计算机视觉、音频、视频和多模态等领域的前沿机器学习模型提供统一的模型定义层。每个模型都以一致、易读的形式定义一次,训练框架、推理引擎和相关建模库都可以基于同一套定义工作。
库中提供高层 Pipeline API,只需几行代码即可运行文本生成、语音识别、图像分类、视觉问答等任务。预训练权重从 Hugging Face Hub 下载并本地缓存,方便重复使用。用户也可以直接使用底层模型类,在 PyTorch 中进行训练和定制。
运行环境要求 Python 3.10 及以上和 PyTorch 2.6 及以上。它不是通用的神经网络组件工具箱,若需要通用训练循环,项目建议使用 Accelerate。
核心功能
- 01Pipeline API 可直接用于文本、音频、视觉和多模态任务的推理。
- 02可访问 Hugging Face Hub 上超过 100 万个预训练模型权重。
- 03模型定义统一,可与基于 PyTorch 的训练框架和推理引擎配合使用。
- 04通过 transformers serve 和 transformers chat 命令行与模型对话。
适用场景
- 在 Python 应用中调用预训练语言模型完成文本生成或对话。
- 使用现成模型进行语音转写或图像分类。
- 在自定义数据集上微调预训练的 PyTorch 模型。
- 复现已发表的模型结构用于研究实验。
快速上手
- 1
使用 venv 创建并激活虚拟环境
python -m venv .my-env - 2
使用 pip 安装带 PyTorch 支持的 Transformers
pip install "transformers[torch]" - 3
运行 Python 代码中的文本生成 pipeline(参见快速入门示例)
使用前须知
- 需要 Python 3.10 及以上版本和 PyTorch 2.6 及以上版本。
- 运行 Llama 或 Whisper-large 等大模型需要大量内存,最好配备 GPU。
标签
常见问题
- transformers 是什么?
- 面向文本、视觉、音频和多模态的前沿机器学习模型定义框架,可用于推理和训练。 Transformers 为文本、计算机视觉、音频、视频和多模态等领域的前沿机器学习模型提供统一的模型定义层。每个模型都以一致、易读的形式定义一次,训练框架、推理引擎和相关建模库都可以基于同一套定义工作。
- transformers 可以免费使用吗?用的什么许可证?
- transformers 以 Apache-2.0 许可证开源。用于商业产品前,请先确认许可证条款。
- transformers 还在维护吗?
- 活跃维护中。transformers 最近一次提交是在 2026年10月20日。
- transformers 适合用来做什么?
- 在 Python 应用中调用预训练语言模型完成文本生成或对话。 使用现成模型进行语音转写或图像分类。 在自定义数据集上微调预训练的 PyTorch 模型。 复现已发表的模型结构用于研究实验。
- transformers 怎么安装和运行?
- 使用 venv 创建并激活虚拟环境: python -m venv .my-env 使用 pip 安装带 PyTorch 支持的 Transformers: pip install "transformers[torch]" 运行 Python 代码中的文本生成 pipeline(参见快速入门示例)
- 在哪里获取 transformers?
- 源代码和安装说明在 GitHub 上:https://github.com/huggingface/transformers
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
Hugging Face Hub 的官方命令行工具(hf)与 Python 客户端,用于下载、上传和管理仓库。
收录 419 个预训练 AI 模型,覆盖视觉、语音、NLP 与大模型,可通过统一的 Python 命令行运行。
一本从零开始讲解并动手实现大语言模型的中文开源教程,涵盖 Transformer、预训练、微调、RAG 与 Agent。
一套带逐行注释的教程,用 Python 和 PyTorch 从零实现并训练一个类 LLaMA 架构的小型 GPT。
包含 923 份论文、课程与文章的 Markdown 机器学习知识库,并附带一个基于 NumPy 的自定义分类/回归算法 APRL。