Um compilador que converte grafos de redes neurais ONNX via MLIR em código com o mínimo de dependências de runtime.
triton-lang/triton
Linguagem e compilador para escrever kernels de GPU personalizados e altamente eficientes para deep learning em código semelhante a Python, com mais produtividade que CUDA.
Alternativa open source a:CUDA
- Estrelas
- 20,533
- Forks
- 3,377
- Issues abertas
- 1,372
- Último commit
- há 5 horas
O que é?
Triton é uma linguagem e um compilador para escrever primitivas personalizadas de deep learning, os kernels de baixo nível executados em GPUs. O objetivo é permitir que desenvolvedores escrevam kernels rápidos com mais produtividade que em CUDA, mantendo mais flexibilidade que outras linguagens específicas de domínio.
O projeto pode ser instalado via pip, com wheels binários para CPython 3.10 a 3.14, e também pode ser compilado a partir do código-fonte usando uma versão personalizada ou pré-compilada do LLVM. Tem como alvo GPUs NVIDIA (Compute Capability 8.0+) e GPUs AMD (ROCm 6.2+), enquanto o suporte a CPU ainda está em desenvolvimento. A plataforma compatível é Linux.
O repositório também oferece um interpretador do Triton, que executa kernels sem GPU e permite usar breakpoints do Python dentro do código dos kernels. Um conjunto de opções de variáveis de ambiente disponibiliza dumps de IR em cada etapa de MLIR e LLVM, substituição de kernels, geração de reproduções e resultados de autotuning para depuração e otimização de desempenho.
Recursos principais
- 01Escreva kernels de GPU em uma linguagem baseada em Python, com abstrações no nível de tiles.
- 02Executa kernels em GPUs NVIDIA e AMD.
- 03Inclui um modo de interpretador que executa sem GPU e oferece suporte a breakpoints do Python.
- 04Gera dumps de IR em cada etapa de compilação de MLIR e LLVM para inspeção.
- 05Oferece suporte à substituição de kernels e a plugins de compilador externos à árvore do projeto.
Casos de uso
- Escrever operadores personalizados fundidos ou kernels de attention para modelos de deep learning.
- Otimizar kernels de GPU com mais produtividade do que ao escrever CUDA à mão.
- Depurar a lógica dos kernels em uma máquina sem GPU usando o interpretador.
- Estudar ou estender o pipeline de compilação baseado em MLIR para geração de código de GPU.
Início rápido
- 1
Instale a versão estável mais recente pelo pip
pip install triton - 2
Ou instale a partir do código-fonte: clone o repositório
git clone https://github.com/triton-lang/triton.git - 3
Instale as dependências de build a partir da árvore de código-fonte
pip install -r python/requirements.txt - 4
Instale o Triton em modo editável
pip install -e .
Antes de usar
- A compilação a partir do código-fonte requer a configuração de uma toolchain LLVM local ou o download de uma versão pré-compilada do LLVM durante o build.
- A execução da suíte de testes de GPU requer uma GPU, embora o modo interpretador funcione sem uma.
Em coleções
Tópicos
Perguntas frequentes
- O que é triton?
- Linguagem e compilador para escrever kernels de GPU personalizados e altamente eficientes para deep learning em código semelhante a Python, com mais produtividade que CUDA. Triton é uma linguagem e um compilador para escrever primitivas personalizadas de deep learning, os kernels de baixo nível executados em GPUs. O objetivo é permitir que desenvolvedores escrevam kernels rápidos com mais produtividade que em CUDA, mantendo mais flexibilidade que outras linguagens específicas de domínio.
- triton é gratuito? Qual é a licença?
- triton é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- triton ainda é mantido?
- Manutenção ativa. O último commit de triton foi em 7 de nov. de 2026.
- Para que posso usar triton?
- Escrever operadores personalizados fundidos ou kernels de attention para modelos de deep learning. Otimizar kernels de GPU com mais produtividade do que ao escrever CUDA à mão. Depurar a lógica dos kernels em uma máquina sem GPU usando o interpretador. Estudar ou estender o pipeline de compilação baseado em MLIR para geração de código de GPU.
- Como instalar triton?
- Instale a versão estável mais recente pelo pip: pip install triton Ou instale a partir do código-fonte: clone o repositório: git clone https://github.com/triton-lang/triton.git Instale as dependências de build a partir da árvore de código-fonte: pip install -r python/requirements.txt Instale o Triton em modo editável: pip install -e .
- Onde consigo triton?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/triton-lang/triton
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um compilador e runtime baseado em MLIR que reduz modelos de ML a uma IR unificada para implantação em datacenters, dispositivos móveis e de edge.
Framework Python que compila redes neurais profundas em código C++ CUDA/HIP fp16 para inferência rápida em GPUs NVIDIA e AMD.
Um compilador JIT de código aberto, compatível com NumPy, que transforma funções numéricas em Python em código de máquina rápido usando LLVM.
Livro open source e coleção de código com anotações sobre CUDA moderno e mais de 200 kernels, cobrindo HGEMM, GEMM em FP8/FP4 e Flash-Attention.
AutoRT é uma ferramenta de compilação que ajuda desenvolvedores a criar, testar e otimizar operadores PyTorch para seus próprios aceleradores.