将 ONNX 神经网络计算图通过 MLIR 编译为运行时依赖极少的代码的编译器。
- Star
- 20,529
- Fork
- 3,376
- 未关闭 Issue
- 1,372
- 最近提交
- 18小时前
这是什么?
Triton 是一门用于编写自定义深度学习基础算子(即运行在 GPU 上的底层内核)的语言与编译器。它希望让开发者在保持较高灵活性的同时,比直接使用 CUDA 更高效地编写高性能内核。
项目可通过 pip 安装预编译的 wheel,支持 CPython 3.10 至 3.14,也可以基于自定义或预构建的 LLVM 从源码编译。目前支持 NVIDIA GPU(Compute Capability 8.0+)和 AMD GPU(ROCm 6.2+),CPU 支持仍在开发中,平台目前仅支持 Linux。
仓库还提供解释器模式,无需 GPU 即可运行内核,并允许在内核代码中设置 Python 断点。通过一系列环境变量可以导出各 MLIR 与 LLVM 编译阶段的 IR、覆盖内核编译结果、生成复现文件,以及输出自动调优信息,便于调试和性能优化。
核心功能
- 01使用基于 Python 的语言编写 GPU 内核,并提供分块(tile)级别的抽象。
- 02支持在 NVIDIA 和 AMD GPU 上运行内核。
- 03提供无需 GPU 即可运行的解释器模式,并支持 Python 断点调试。
- 04可导出每个 MLIR 与 LLVM 编译阶段的 IR,便于排查问题。
- 05支持内核编译结果覆盖,以及树外编译器插件。
适用场景
- 为深度学习模型编写自定义融合算子或注意力内核。
- 在比手写 CUDA 更高的开发效率下优化 GPU 内核。
- 在没有 GPU 的机器上借助解释器调试内核逻辑。
- 学习或扩展基于 MLIR 的 GPU 代码生成编译流程。
快速上手
- 1
从 pip 安装最新稳定版
pip install triton - 2
或从源码安装:克隆仓库
git clone https://github.com/triton-lang/triton.git - 3
在源码目录中安装构建依赖
pip install -r python/requirements.txt - 4
以可编辑模式安装 Triton
pip install -e .
使用前须知
- 从源码构建需要配置本地 LLVM 工具链,或在构建期间下载预编译的 LLVM。
- 运行 GPU 测试套件需要 GPU,但解释器模式可在无 GPU 时运行。
收录于专题
标签
常见问题
- triton 是什么?
- 一门用于编写高效自定义深度学习 GPU 内核的语言与编译器,开发效率高于 CUDA。 Triton 是一门用于编写自定义深度学习基础算子(即运行在 GPU 上的底层内核)的语言与编译器。它希望让开发者在保持较高灵活性的同时,比直接使用 CUDA 更高效地编写高性能内核。
- triton 可以免费使用吗?用的什么许可证?
- triton 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- triton 还在维护吗?
- 活跃维护中。triton 最近一次提交是在 2026年11月6日。
- triton 适合用来做什么?
- 为深度学习模型编写自定义融合算子或注意力内核。 在比手写 CUDA 更高的开发效率下优化 GPU 内核。 在没有 GPU 的机器上借助解释器调试内核逻辑。 学习或扩展基于 MLIR 的 GPU 代码生成编译流程。
- triton 怎么安装和运行?
- 从 pip 安装最新稳定版: pip install triton 或从源码安装:克隆仓库: git clone https://github.com/triton-lang/triton.git 在源码目录中安装构建依赖: pip install -r python/requirements.txt 以可编辑模式安装 Triton: pip install -e .
- 在哪里获取 triton?
- 源代码和安装说明在 GitHub 上:https://github.com/triton-lang/triton
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
1066+4 本周457MLIRApache-2.0维护活跃更新于 18小时前
基于 MLIR 的机器学习编译器与运行时,将模型统一降级到中间表示,覆盖数据中心到移动与边缘设备。
4005+5 本周1057C++Apache-2.0更新于 21小时前
一个将深度神经网络编译为 CUDA/HIP C++ 代码、用于 NVIDIA 和 AMD GPU 高性能推理的 Python 框架。
4734+4 本周387PythonApache-2.0更新于 上个月
开源 CUDA 学习笔记与代码合集,包含 200 多个内核,涵盖 HGEMM、FP8/FP4 GEMM 与 Flash-Attention。
1.2万+17 本周1275CudaGPL-3.0更新于 前天