Repolode
triton-lang

triton-lang/triton

一门用于编写高效自定义深度学习 GPU 内核的语言与编译器,开发效率高于 CUDA。

可替代:CUDA

Star
20,529
Fork
3,376
未关闭 Issue
1,372
最近提交
18小时前

这是什么?

Triton 是一门用于编写自定义深度学习基础算子(即运行在 GPU 上的底层内核)的语言与编译器。它希望让开发者在保持较高灵活性的同时,比直接使用 CUDA 更高效地编写高性能内核。

项目可通过 pip 安装预编译的 wheel,支持 CPython 3.10 至 3.14,也可以基于自定义或预构建的 LLVM 从源码编译。目前支持 NVIDIA GPU(Compute Capability 8.0+)和 AMD GPU(ROCm 6.2+),CPU 支持仍在开发中,平台目前仅支持 Linux。

仓库还提供解释器模式,无需 GPU 即可运行内核,并允许在内核代码中设置 Python 断点。通过一系列环境变量可以导出各 MLIR 与 LLVM 编译阶段的 IR、覆盖内核编译结果、生成复现文件,以及输出自动调优信息,便于调试和性能优化。

核心功能

  • 01使用基于 Python 的语言编写 GPU 内核,并提供分块(tile)级别的抽象。
  • 02支持在 NVIDIA 和 AMD GPU 上运行内核。
  • 03提供无需 GPU 即可运行的解释器模式,并支持 Python 断点调试。
  • 04可导出每个 MLIR 与 LLVM 编译阶段的 IR,便于排查问题。
  • 05支持内核编译结果覆盖,以及树外编译器插件。

适用场景

  • 为深度学习模型编写自定义融合算子或注意力内核。
  • 在比手写 CUDA 更高的开发效率下优化 GPU 内核。
  • 在没有 GPU 的机器上借助解释器调试内核逻辑。
  • 学习或扩展基于 MLIR 的 GPU 代码生成编译流程。

快速上手

  1. 1

    从 pip 安装最新稳定版

    pip install triton
  2. 2

    或从源码安装:克隆仓库

    git clone https://github.com/triton-lang/triton.git
  3. 3

    在源码目录中安装构建依赖

    pip install -r python/requirements.txt
  4. 4

    以可编辑模式安装 Triton

    pip install -e .

使用前须知

  • 从源码构建需要配置本地 LLVM 工具链,或在构建期间下载预编译的 LLVM。
  • 运行 GPU 测试套件需要 GPU,但解释器模式可在无 GPU 时运行。

收录于专题

标签

常见问题

triton 是什么?
一门用于编写高效自定义深度学习 GPU 内核的语言与编译器,开发效率高于 CUDA。 Triton 是一门用于编写自定义深度学习基础算子(即运行在 GPU 上的底层内核)的语言与编译器。它希望让开发者在保持较高灵活性的同时,比直接使用 CUDA 更高效地编写高性能内核。
triton 可以免费使用吗?用的什么许可证?
triton 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
triton 还在维护吗?
活跃维护中。triton 最近一次提交是在 2026年11月6日。
triton 适合用来做什么?
为深度学习模型编写自定义融合算子或注意力内核。 在比手写 CUDA 更高的开发效率下优化 GPU 内核。 在没有 GPU 的机器上借助解释器调试内核逻辑。 学习或扩展基于 MLIR 的 GPU 代码生成编译流程。
triton 怎么安装和运行?
从 pip 安装最新稳定版: pip install triton 或从源码安装:克隆仓库: git clone https://github.com/triton-lang/triton.git 在源码目录中安装构建依赖: pip install -r python/requirements.txt 以可编辑模式安装 Triton: pip install -e .
在哪里获取 triton?
源代码和安装说明在 GitHub 上:https://github.com/triton-lang/triton

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目

开源 CUDA 学习笔记与代码合集,包含 200 多个内核,涵盖 HGEMM、FP8/FP4 GEMM 与 Flash-Attention。

学习资源#cuda#gpu#tensor-cores
1.2万+17 本周1275CudaGPL-3.0更新于 前天