Repolode
apache

apache/tvm

Framework aberto de compilação de machine learning que permite personalizar pipelines de compilação em Python e implantar modelos em diversos alvos de hardware.

Estrelas
13,853
Forks
4,018
Issues abertas
358
Último commit
há 12 horas

O que é?

O Apache TVM é um framework de compilação de machine learning que recebe modelos treinados e os compila em módulos implantáveis para diferentes hardwares. Seu desenvolvimento prioriza Python, então a maioria das transformações no pipeline de compilação pode ser personalizada em Python, sem precisar modificar o núcleo em C++.

O projeto usa um design que abrange diferentes níveis: TensorIR é a representação no nível de tensores para programas de operadores de baixo nível, enquanto Relax é a representação no nível de grafo para grafos computacionais. Isso permite aplicar em conjunto otimizações de grafos e de programas de tensores, além de possibilitar a integração com bibliotecas externas.

O TVM também é apresentado como uma infraestrutura para criar compiladores específicos de domínio, com LLMs citados como um exemplo. Os tópicos do projeto indicam suporte a backends como stacks de GPU relacionados a CUDA, OpenCL, Vulkan, Metal, ROCm e alvos baseados em JavaScript no estilo WebAssembly.

Recursos principais

  • 01Personalização dos pipelines de transformação do compilador com prioridade para Python.
  • 02TensorIR para representação de programas no nível de tensores.
  • 03Relax para representação de grafos computacionais no nível de grafo.
  • 04Otimização conjunta de grafos, programas de tensores e bibliotecas externas.
  • 05Suporte a backends de GPU, incluindo OpenCL, Vulkan, Metal e ROCm.

Casos de uso

  • Implantar um modelo de deep learning treinado em diferentes hardwares, como GPUs ou dispositivos de borda.
  • Criar um compilador de ML personalizado para um domínio específico ou uma família de modelos.
  • Pesquisar novas otimizações de programas de tensores em Python.
  • Compilar modelos para execução em navegadores ou ambientes JavaScript.

Início rápido

  1. 1

    Leia as instruções de instalação no site da documentação do TVM

  2. 2

    Siga o tutorial Introdução ao TVM

Tópicos

Perguntas frequentes

O que é tvm?
Framework aberto de compilação de machine learning que permite personalizar pipelines de compilação em Python e implantar modelos em diversos alvos de hardware. O Apache TVM é um framework de compilação de machine learning que recebe modelos treinados e os compila em módulos implantáveis para diferentes hardwares. Seu desenvolvimento prioriza Python, então a maioria das transformações no pipeline de compilação pode ser personalizada em Python, sem precisar modificar o núcleo em C++.
tvm é gratuito? Qual é a licença?
tvm é open source sob a licença Apache-2.0. Confira os termos da licença antes de usá-lo em produtos comerciais.
tvm ainda é mantido?
Manutenção ativa. O último commit de tvm foi em 21 de out. de 2026.
Para que posso usar tvm?
Implantar um modelo de deep learning treinado em diferentes hardwares, como GPUs ou dispositivos de borda. Criar um compilador de ML personalizado para um domínio específico ou uma família de modelos. Pesquisar novas otimizações de programas de tensores em Python. Compilar modelos para execução em navegadores ou ambientes JavaScript.
Como instalar tvm?
Leia as instruções de instalação no site da documentação do TVM Siga o tutorial Introdução ao TVM
Onde consigo tvm?
O código-fonte e as instruções de instalação estão no GitHub: https://github.com/apache/tvm

Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.

Projetos relacionados