unslothai/unsloth

这是什么？

核心功能

• 01可在 Windows、Linux、WSL 和 macOS 上运行与训练 LLM、扩散、音频和嵌入模型。
• 02支持 NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。
• 03通过兼容 OpenAI 的 API 提供模型服务。
• 04可将本地模型接入 Claude Code、Codex 和 MCP 工具。
• 05支持 LoRA、QLoRA、全量微调、GRPO 和 DPO。
• 06可将训练好的模型导出为 GGUF、FP8 等格式。
• 07可从 PDF、CSV、DOCX 等文件构建训练数据集。

适用场景

• 在笔记本或工作站上本地运行开源权重模型，数据无需上传云端。
• 在单张消费级 GPU 上以较低显存微调小型 LLM。
• 将本地模型接入 Claude Code、Codex 等编程智能体。
• 训练扩散或 TTS 模型，并导出用于本地部署。

快速上手

1. 1

   从发布页面下载适合你操作系统的 Unsloth Desktop 应用

2. 2

   在 macOS 上通过 Homebrew 安装

   brew install --cask unsloth
3. 3

   启动 Unsloth Studio 网页界面

   unsloth studio

使用前须知

• !服务端工具默认开启，因此将 Unsloth 暴露到网络时需要设置强密码，或使用 --disable-tools 参数。
• !部分安装方式（如 Docker 的 GPU 配置）依赖 NVIDIA 或 AMD 硬件。

标签

常见问题

unsloth 是什么？

开源桌面应用与 Web 界面，可在本地运行、微调和导出大语言模型与扩散模型，并提供代码版训练库。 Unsloth 是一个用于在本地运行和训练 AI 模型的工具。它提供原生桌面应用 Unsloth Desktop，支持 Windows、macOS 和 Linux；也提供通过 unsloth studio 命令启动的 Web 界面 Unsloth Studio；另有基于代码的 Python 包 Unsloth Core，便于在脚本和 notebook 中微调。

unsloth 可以免费使用吗？用的什么许可证？

unsloth 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

unsloth 还在维护吗？

活跃维护中。unsloth 最近一次提交是在 2026年10月20日。

unsloth 适合用来做什么？

在笔记本或工作站上本地运行开源权重模型，数据无需上传云端。 在单张消费级 GPU 上以较低显存微调小型 LLM。 将本地模型接入 Claude Code、Codex 等编程智能体。 训练扩散或 TTS 模型，并导出用于本地部署。

unsloth 怎么安装和运行？

从发布页面下载适合你操作系统的 Unsloth Desktop 应用 在 macOS 上通过 Homebrew 安装: brew install --cask unsloth 启动 Unsloth Studio 网页界面: unsloth studio

在哪里获取 unsloth？

源代码和安装说明在 GitHub 上：https://github.com/unslothai/unsloth