openai/gpt-oss

这是什么？

核心功能

• 01提供 120B 与 20B 两个开放权重模型，分别面向单卡 80GB GPU 和 16GB 内存环境。
• 02推理强度可在 low、medium、high 之间调节。
• 03支持函数调用、浏览器与 Python 工具调用及结构化输出。
• 04MoE 权重采用 MXFP4 量化，其余张量使用 BF16。
• 05可与 Transformers、vLLM、Ollama 及 LM Studio 配合使用。

适用场景

• 在单张高显存 GPU 上部署具备较强推理能力的模型。
• 通过 Ollama 或 LM Studio 在消费级硬件上本地运行较小模型。
• 构建调用函数、浏览网页或执行 Python 的智能体。
• 基于开放权重对模型进行领域微调。

快速上手

1. 1

   从 PyPI 安装 gpt-oss 工具

   pip install gpt-oss
2. 2

   从下载页面安装 Ollama

3. 3

   使用 Ollama 拉取并运行 gpt-oss-20b 模型

   ollama pull gpt-oss:20b

使用前须知

• !参考 PyTorch 实现效率低下，至少需要 4 块 H100 GPU。
• !参考 Triton 实现需要从源码构建 Triton，并且需要 CUDA GPU。
• !参考实现预计不用于生产环境。
• !参考实现尚未在 Windows 上测试。

标签

常见问题

gpt-oss 是什么？

OpenAI 发布的开放权重语言模型 gpt-oss-120b 与 gpt-oss-20b，附带参考推理、工具和客户端代码。 gpt-oss 是 OpenAI 的开放权重模型系列，目前提供两个版本：gpt-oss-120b 可在单张 80GB GPU 上运行，适合高推理强度的通用场景；gpt-oss-20b 延迟更低，适合本地或特定场景，可在 16GB 内存内运行。两个模型都基于 harmony 响应格式训练，需配合该格式使用。权重托管在 Hugging Face，采用 Apache 2.0 许可证。

gpt-oss 可以免费使用吗？用的什么许可证？

gpt-oss 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

gpt-oss 还在维护吗？

活跃维护中。gpt-oss 最近一次提交是在 2026年10月12日。

gpt-oss 适合用来做什么？

在单张高显存 GPU 上部署具备较强推理能力的模型。 通过 Ollama 或 LM Studio 在消费级硬件上本地运行较小模型。 构建调用函数、浏览网页或执行 Python 的智能体。 基于开放权重对模型进行领域微调。

gpt-oss 怎么安装和运行？

从 PyPI 安装 gpt-oss 工具: pip install gpt-oss 从下载页面安装 Ollama 使用 Ollama 拉取并运行 gpt-oss-20b 模型: ollama pull gpt-oss:20b

在哪里获取 gpt-oss？

源代码和安装说明在 GitHub 上：https://github.com/openai/gpt-oss