ONNXのニューラルネットワークグラフをMLIR経由でコードに変換し、実行時の依存関係を最小限に抑えるコンパイラ。
- スター
- 20,526
- フォーク
- 3,376
- 未解決の Issue
- 1,372
- 最終コミット
- 18 時間前
これは何?
Tritonは、GPUで実行される低レベルカーネルである、カスタムの深層学習プリミティブを記述するための言語・コンパイラです。CUDAより高い生産性で高速なカーネルを記述でき、他のドメイン固有言語よりも柔軟性を保つことを目指しています。
pipからインストールでき、CPython 3.10〜3.14向けのバイナリwheelが用意されています。また、カスタムまたはビルド済みのLLVMを使ってソースからビルドすることもできます。NVIDIA GPU(Compute Capability 8.0以降)とAMD GPU(ROCm 6.2以降)を対象としており、CPUサポートは開発中です。対応プラットフォームはLinuxです。
リポジトリにはTritonインタープリターも含まれており、GPUなしでカーネルを実行できるほか、カーネルコード内でPythonのブレークポイントを利用できます。環境変数による設定を使うと、各MLIR・LLVMパスのIRダンプ、カーネルのオーバーライド、再現用コードの生成、デバッグや性能改善に役立つ自動チューニング結果の出力ができます。
主な機能
- 01タイル単位の抽象化を備えたPythonベースの言語でGPUカーネルを記述できます。
- 02NVIDIA GPUとAMD GPUでカーネルを実行できます。
- 03GPUなしで実行でき、Pythonのブレークポイントにも対応するインタープリターモードを備えています。
- 04確認用に、MLIRとLLVMの各コンパイル段階でIRをダンプできます。
- 05カーネルのオーバーライドと、ツリー外のコンパイラープラグインに対応しています。
ユースケース
- 深層学習モデル向けのカスタム融合演算子やattentionカーネルの作成。
- 手書きのCUDAより高い生産性でGPUカーネルを最適化。
- インタープリターを使い、GPUのないマシンでカーネルのロジックをデバッグ。
- GPUコード生成に使われるMLIRベースのコンパイラーパイプラインの調査や拡張。
クイックスタート
- 1
pipから最新の安定版をインストールします
pip install triton - 2
またはソースからインストールします: リポジトリをクローンします
git clone https://github.com/triton-lang/triton.git - 3
ソースツリーからビルド時の依存関係をインストールします
pip install -r python/requirements.txt - 4
Tritonをeditable modeでインストールします
pip install -e .
使う前に知っておきたいこと
- ソースからビルドするには、ローカルのLLVMツールチェーンをセットアップするか、ビルド中に事前ビルド済みのLLVMをダウンロードする必要があります。
- GPUテストスイートの実行にはGPUが必要ですが、インタープリターモードならGPUなしで実行できます。
収録されている特集
トピック
よくある質問
- triton とは?
- Python風のコードで高効率な深層学習向けGPUカーネルを記述できる言語・コンパイラ。CUDAより高い生産性を目指します。 Tritonは、GPUで実行される低レベルカーネルである、カスタムの深層学習プリミティブを記述するための言語・コンパイラです。CUDAより高い生産性で高速なカーネルを記述でき、他のドメイン固有言語よりも柔軟性を保つことを目指しています。
- triton は無料で使えますか?ライセンスは?
- triton は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- triton は今もメンテナンスされていますか?
- 活発にメンテナンス中。triton の最終コミットは 2026年11月5日 です。
- triton は何に使えますか?
- 深層学習モデル向けのカスタム融合演算子やattentionカーネルの作成。 手書きのCUDAより高い生産性でGPUカーネルを最適化。 インタープリターを使い、GPUのないマシンでカーネルのロジックをデバッグ。 GPUコード生成に使われるMLIRベースのコンパイラーパイプラインの調査や拡張。
- triton のインストール方法は?
- pipから最新の安定版をインストールします: pip install triton またはソースからインストールします: リポジトリをクローンします: git clone https://github.com/triton-lang/triton.git ソースツリーからビルド時の依存関係をインストールします: pip install -r python/requirements.txt Tritonをeditable modeでインストールします: pip install -e .
- triton はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/triton-lang/triton
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
MLIRベースのコンパイラとランタイム。MLモデルを統一IRに変換し、データセンターからモバイル・エッジデバイスまで展開できます。
深層ニューラルネットワークをfp16のCUDA/HIP C++コードにコンパイルし、NVIDIAおよびAMD GPUでの高速推論を実現するPythonフレームワーク。
HGEMM、FP8/FP4 GEMM、Flash-Attentionを網羅する200以上のカーネルを収録した、最新のCUDA学習ノートとコードのオープンソース書籍。